IA da Anthropic envia denúncia falsa de homicídio à polícia nos EUA

Um modelo de inteligência artificial desenvolvido pela Anthropic enviou uma denúncia falsa sobre um homicídio não solucionado à polícia da Filadélfia, nos Estados Unidos. O incidente ocorreu em julho, durante um teste em que a IA navegava por páginas da internet e interagiu com um formulário on-line destinado a denúncias. A mensagem foi classificada como spam pelo sistema policial e não chegou a ser analisada pelos investigadores.

A Anthropic identificou o erro em 28 de setembro e comunicou o caso às autoridades apenas em 7 de outubro. O Departamento de Polícia da Filadélfia classificou o intervalo de dois meses entre a ocorrência e o aviso como inaceitável e cobrou salvaguardas adicionais para evitar que sistemas automatizados interfiram em serviços públicos. A empresa informou que interrompeu os testes que causaram o problema e publicou um relatório detalhando ações não intencionais de seus modelos em sites reais.

O documento cita o caso como um exemplo de falha em agentes de IA capazes de realizar tarefas de forma autônoma na internet. Apesar de o registro de denúncia falsa ser ilegal na Pensilvânia, não há registro de abertura de investigação criminal contra a desenvolvedora da tecnologia até o momento.