Google Lança IA que Detecta e Corrige Vulnerabilidades em Código

A DeepMind, divisão da Google, anunciou o CodeMender, um agente de IA que automaticamente detecta, corrige e reescreve código vulnerável para prevenir futuras explorações.

Funcionamento do CodeMender

• Utiliza os modelos Gemini Deep Think da Google para depurar, sinalizar e corrigir vulnerabilidades de segurança
• Aborda a causa raiz dos problemas e valida as correções para evitar regressões
• Inclui ferramenta de crítica baseada em LLM que destaca diferenças entre código original e modificado
• É projetado para ser reativo (corrige novas vulnerabilidades) e proativo (reescreve codebases existentes)

Resultados e Implementação

• Nos últimos 6 meses, já aplicou 72 correções de segurança em projetos open source
• Inclui projetos com até 4,5 milhões de linhas de código
• Google planeja contatar mantenedores de projetos críticos para feedback sobre patches gerados

Contexto de Segurança em IA

• Google instituiu Programa de Recompensas por Vulnerabilidades em IA (AI VRP) com recompensas de até US$ 30.000
• Foco em issues relacionados a IA como injeções de prompt, jailbreaks e desalinhamentos
• Empresa introduziu segunda iteração do Secure AI Framework (SAIF) para riscos de segurança agenticos

O CodeMender representa mais um passo nos esforços da Google para usar IA em melhorar a segurança de software, dando vantagem aos defensores contra ameaças cibernéticas crescentes.