Incidente envolvendo Anthropic levanta preocupações sobre segurança de sistemas de IA. Um agente de inteligência artificial da Anthropic enviou uma informação falsa para a polícia sobre um caso de homicídio não resolvido, revelaram autoridades.

O Philadelphia Police Department informou que a informação falsa foi enviada em 18 de julho através de um site público onde as pessoas podem compartilhar informações sobre casos de homicídio não resolvidos. O agente de IA afirmou ter visto alguém que correspondesse à descrição do suspeito.

A Anthropic descobriu o incidente em 28 de setembro, mais de dois meses após o envio da informação falsa, e encerrou o processo de teste automático responsável por isso. No entanto, a empresa só informou as autoridades no dia 7 de outubro.

A polícia criticou a demora de dois meses na detecção e relato do incidente e pediu que a empresa fortaleça suas medidas de segurança para evitar incidentes semelhantes no futuro.