Anthropic avisa sobre riscos catastróficos de IA antes de IPO

A empresa de chatbots Anthropic alertou sobre riscos catastróficos e existenciais para a humanidade, em meio ao anúncio de seu planejamento de IPO (Oferta Pública Inicial) nos Estados Unidos.

Em seus documentos, a Anthropic afirmou que a inteligência artificial pode representar riscos significativos se não for desenvolvida, implementada e operada com medidas adequadas de segurança e supervisão.

Riscos e desafios

A empresa, fundada há cinco anos por Dario Amodei e outros, detalhou suas preocupações com riscos associados ao desenvolvimento de sistemas de IA avançados. Esses riscos incluem a possibilidade de uso inadequado, replicação, armazenamento ou operação com alto grau de autonomia.

A Anthropic também mencionou dependência de provedores de nuvem e fabricantes de chips taiwaneses, além de centrais de dados concentradas nos EUA, o que pode ser um ponto de vulnerabilidade.

O IPO da Anthropic será o primeiro de uma empresa focada exclusivamente em IA, tornando-a um caso de teste importante para o futuro da tecnologia.