Technology Radar
In previous editions of the Radar, we put local coding assistants in Caution because the available models were too limited for complex software engineering contexts and weren’t a compelling solution to the concerns they were intended to address. With coding agents now being adopted much more widely than 18 months ago and local open-weight models maturing rapidly, our teams have found local coding models effective in addressing blanket frontier model usage.
Models that can run locally, such as Qwen3.8-27B, have proved particularly useful for workloads that don’t require a frontier model, including codebase indexing, structured log parsing and summarization, initial coding tasks and automated reviews of Git diffs and commits. Running these tasks locally can avoid incremental cloud token costs while also enabling long-running background processing and providing an offline fallback.
Las organizaciones se mantienen cautelosas con respecto a las IAs asistentes de código de terceros, particularmente debido a preocupaciones con respecto a la confidencialidad del código. Como resultado, muchos desarrolladores están considerando asistentes de código locales , IAs que corren completamente en sus propias máquinas, eliminando la necesidad de enviar código a servidores externos. Sin embargo, los asistentes locales aún se quedan atrás de sus contrapartes de nube, que confían en modelos más grandes y más capaces. Incluso en máquinas de desarrollo de alta gama, los modelos más pequeños mantienen capacidades limitadas. Hemos encontrado que tienen dificultades con prompts complejos, carecen de la ventana de contexto necesaria para problemas más grandes y a menudo no pueden gatillar integraciones de herramientas o llamadas a funciones. Estas capacidades son especialmente esenciales para los flujos de trabajo agentivos, los cuales son la vanguardia en asistencia de código actualmente.
Así que, si bien recomendamos proceder con bajas expectativas, existen algunas capacidades que son válidas a nivel local. Ciertos IDEs populares actualmente incorporan modelos más pequeños en sus características centrales, tales como el completado de código predictivo de Xcode y el completado de líneas completas de código JetBrains. Y LLMs que puedan correr localmente como Qwen Coder son un paso hacia sugerencias locales en línea y manejo de queries simples de código. Se puede probar estas capacidades con Continue, que soporta la integración de modelos locales vía tiempo de ejecución como Ollama.
