Pesquisa da Databricks injetou perfis de capacidade, conhecimento declarativo sobre técnica maliciosa, direto no prompt de triagem de pacote npm com binário embutido, e levou modelo barato de 0 ou 1 detecção em 10 payloads pra 7 a 10 de 10, quase igualando modelo caro sem re-treinar nada.
Agent memory pipelines, em Beta, conectam um session store a um memory store e usam um LLM para destilar fato, preferência e decisão de conversas passadas em entradas de memória que o agente recupera depois, rodando sob demanda ou a cada 24 horas.
Orçamento é só uma parte da conta de coding agent em escala. A Databricks lista cinco alavancas técnicas, roteamento dinâmico por modelo mais barato, meta-harness pra trocar de modelo sem fricção, e redução de token via cache e compressão de contexto, que reduziram custo em até 50% sem baixar qualidade percebida pelo engenheiro.
Avaliar modelo de código em biblioteca de nicho como Spark SQL esbarra num problema básico: falta benchmark bom. Um pipeline de quatro estágios da Databricks gera caso de teste automaticamente a partir da própria função, com validação cruzada entre dois modelos, e revela que instrução simples como comentário de notebook do Azure Databricks muda o resultado do modelo de forma mensurável.