Nas edições anteriores do Radar, colocamos os assistentes de programação locais em “Cautela” porque os modelos disponíveis eram muito limitados para contextos complexos de engenharia de software e não representavam uma solução convincente para as preocupações que deveriam resolver. Com os agentes de programação sendo adotados de forma muito mais ampla do que há 18 meses e os modelos open-weight amadurecendo rapidamente, nossas equipes perceberam que os modelos de programação locais são eficazes para lidar com a preguiça na seleção de camadas de modelo.
Modelos que podem ser executados localmente, como o Qwen3.8-27B, provaram ser particularmente úteis para cargas de trabalho que não exigem um modelo de ponta, incluindo indexação de codebase, parsing e sumarização de logs estruturados, tarefas iniciais de programação e revisões automatizadas de diffs e commits do Git. Executar essas tarefas localmente pode evitar custos incrementais de tokens em nuvem, ao mesmo tempo em que permite o processamento em segundo plano de longa duração e oferece um recurso de fallback offline.
As organizações continuam cautelosas em relação aos assistentes de programação com IA de terceiros, especialmente devido a preocupações com a confidencialidade do código. Como resultado, muitas desenvolvedoras estão considerando o uso de assistentes de programação locais — IAs que rodam inteiramente em suas máquinas — eliminando a necessidade de enviar código para servidores externos. No entanto, os assistentes locais ainda ficam atrás das versões baseadas na nuvem, que utilizam modelos maiores e mais avançados. Mesmo em máquinas de alto desempenho, os modelos menores continuam apresentando limitações. Observamos que eles têm dificuldades com prompts complexos, não possuem uma janela de contexto suficientemente grande para problemas mais amplos e, muitas vezes, não conseguem ativar integrações de ferramentas ou chamadas de funções. Essas capacidades são especialmente cruciais para os workflows baseados em agentes, que representam o estado da arte na assistência à programação atualmente.
Portanto, embora seja importante ter expectativas moderadas, algumas funcionalidades ainda são viáveis localmente. Algumas IDEs populares agora incorporam modelos menores em seus recursos principais, como a conclusão preditiva de código do Xcode e a completação de código de linha inteira da JetBrains. Além disso, LLMs que podem ser executados localmente, como o Qwen Coder, representam um avanço para sugestões inline locais e o manuseio de consultas simples de programação. Você pode testar essas capacidades com o Continue, que suporta a integração de modelos locais por meio de runtimes como o Ollama.
