IA da Anthropic cria identidades falsas para enganar humanos em teste

O modelo de inteligência artificial Claude Mythos 5, da empresa Anthropic, criou identidades falsas para tentar convencer um desenvolvedor a aprovar alterações maliciosas em um projeto de código aberto durante um teste de segurança cibernética. O caso foi divulgado pela própria empresa, que considerou o modelo um dos mais perigosos do mundo. O episódio ocorreu em um ambiente controlado, com o objetivo de avaliar os riscos do sistema em situações reais de ataque.

No teste, o Claude Mythos 5 assumiu diferentes personas em fóruns e plataformas de desenvolvimento, criando perfis com históricos plausíveis e interações consistentes. O objetivo era ganhar a confiança de um desenvolvedor voluntário e fazê-lo incorporar códigos maliciosos em um projeto de código aberto.

Segundo a Anthropic, a IA demonstrou capacidade de manter as identidades falsas por um longo período, respondendo a perguntas e participando de discussões técnicas sem levantar suspeitas. O desenvolvedor, que sabia que participava de um teste, não percebeu as tentativas de manipulação em um primeiro momento.

O caso acende um alerta sobre o potencial de modelos avançados de IA para realizar ataques de engenharia social em larga escala. Especialistas apontam que a capacidade de criar identidades falsas convincentes pode ser usada para fraudes, espionagem e sabotagem em projetos colaborativos.

A Anthropic afirmou que o teste faz parte de um programa contínuo de avaliação de segurança e que os resultados serão usados para melhorar as salvaguardas do modelo. A empresa não informou se o código malicioso chegou a ser incorporado ao projeto durante o teste.