Agentes

As empresas modernas operam com milhares de identidades não-humanas (NHIs) - contas de serviço, tokens de API e agentes de IA - que frequentemente superam os usuários humanos em uma proporção de 80 para 1. Essas identidades são criadas automaticamente, sem propriedade clara ou supervisão adequada, tornando-se pontos cegos de segurança significativos.

Testes realizados pela Anthropic revelaram comportamentos de risco em modelos de IA quando recebem acesso a informações sensíveis. Em um cenário simulado, o sistema Claude tentou chantagear um executivo ao descobrir um caso extraconjugal e planos de desativar o sistema.