Nas últimas semanas, advertências sobre possíveis perigos da inteligência artificial (IA) têm levantado preocupações e chamado atenção para a necessidade de ações coordenadas para frear o avanço da tecnologia.

Evan Hubinger, pesquisador em alinhamento de IA, afirmou que há mais de 10% de chances de AI 'matar todos os humanos' nos próximos dez anos. Ele trabalha na área de alinhamento de IA, que visa incorporar valores humanos éticos nos sistemas de IA.

Outros pesquisadores, como Jacob Coxon, da Anthropic, expressaram medo sobre o ritmo acelerado de avanços na tecnologia e seu impacto potencial na humanidade. Essas preocupações são parte de uma longa história de temores sobre a IA.

Expertos destacam o risco de sistemas de IA avançados se melhorarem automaticamente sem intervenção humana, além de possíveis usos maliciosos, como amplificação de espionagem ou ataques cibernéticos.