Uma nova classe de modelos de IA chamada modelos de decisão (decision models) surgiu desde o último Radar. A TypeSafe AI lançou o Jev, que ela chama de um modelo 'System One' construído para tomar decisões rápidas e estruturadas. Vários outros modelos se seguiram, incluindo Laya, Nimble e Kev. Em contraste com modelos de raciocínio deliberativo, os modelos de decisão fornecem valores estruturados predefinidos como saída em vez de texto gerado. Em vez de usar aprendizado por reforço com feedback humano (RLHF) para otimizar preferências humanas, o Jev usa aprendizado por reforço com decisões calibradas (RLCD) para otimizar para decisões bem calibradas, onde as probabilidades previstas refletem com que frequência um resultado realmente ocorre. Suas saídas menores e estruturadas permitem um processamento mais rápido e barato. Os modelos de decisão recebem um estado e um conjunto de perguntas. Cada pergunta feita em relação ao estado deve corresponder a um dos três tipos: Noul para perguntas do tipo sim/não que retornam a probabilidade de uma resposta “sim”, Choice para opções categorizadas de múltipla escolha ou Score para avaliações em uma escala ordinal ordenada.
Os casos de uso de modelos de decisão incluem Jev-as-a-judge como uma alternativa a LLM como juiz, roteamento de modelos e ferramentas, portões de políticas (policy gates) e rotulagem em lote (bulk labeling). Recomendamos que as equipes evitem o uso excessivo de LLMs e definam critérios de avaliação para determinar se um decision model pode substituir um LLM para casos de uso de classificação.
