Os modelos de linguagem de grande porte (LLMs) são as facas suíças do processamento de linguagem natural (PLN). Porém, eles também são caros e nem sempre são a melhor ferramenta para o tarefa - às vezes, é mais eficaz usar uma tampa mais adequada. De fato, há muito potencial em combinar PLN tradicionais com LLMs , ou construir abordagens de PLN múltiplas em conjunto com LLMs para implementar casos de uso e alavancar suas capacidades para as etapas realmente necessárias. Abordagens tradicionais de ciência de dados e PLN para agrupamento de documentos, identificação e classificação de tópicos e até mesmo sumarização são mais baratas e podem ser mais eficazes para resolver parte do problema do seu caso de uso. Em seguida, usamos LLMs quando precisamos gerar e resumir textos longos, ou combinar vários documentos grandes, para aproveitar a atenção e memória superiores do LLM. Por exemplo, usamos com sucesso essa combinação de técnicas para gerar um relatório de tendências abrangente para um domínio a partir de um grande corpus de documentos de tendências individuais, utilizando agrupamento tradicional juntamente com o poder de geração de LLMs.
