Jacob Coxon, de 27 anos, ex-pesquisador de OpenAI e Anthropic, decidiu deixar o setor após expressar preocupações com os rumos da corrida por modelos de inteligência artificial (IA) cada vez mais avançados. Coxon, que trabalhou no pré-treinamento de modelos de IA durante os últimos três anos, acusa as empresas de avançarem em direção a uma tecnologia capaz de superar a inteligência humana sem garantias suficientes de segurança.

Coxon alerta sobre controle e autoaperfeiçoamento

Ao anunciar sua decisão de abandonar a área, Coxon fez um alerta sobre a possibilidade de sistemas avançados de IA escaparem do controle humano. Em publicação no X, ele escreveu: 'As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década. Isso não é uma jogada de marketing'.

Em entrevista ao The Wall Street Journal, Coxon afirmou que, nas projeções mais extremas, problemas relacionados ao controle desses sistemas poderiam surgir já no fim do próximo ano. Uma das preocupações apontadas por ele é o chamado autoaperfeiçoamento, cenário em que sistemas de IA passariam a contribuir para o desenvolvimento de versões ainda mais avançadas da própria tecnologia.

'Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas', declarou Coxon.

Executivo da Anthropic reforça alerta

As declarações de Coxon receberam apoio de Evan Hubinger, executivo da área de segurança da Anthropic. Hubinger afirmou que pesquisadores do setor consideram seriamente a possibilidade de sistemas avançados de inteligência artificial representarem uma ameaça à humanidade.

'Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos', declarou Hubinger. Segundo ele, a probabilidade de um cenário desse tipo ocorrer na próxima década seria superior a 10%, apesar de o risco associado aos modelos disponíveis atualmente ser considerado baixo.