Recentemente, o laboratório de inteligência artificial (IA) Anthropic apresentou um projeto de lei sobre segurança de IA que pode restringir a distribuição de modelos de IA em casos de risco potencial.

O projeto de lei proposto pela Anthropic estabelece critérios para bloquear a distribuição de modelos de IA se houver um risco iminente de mortes acima de 50 pessoas ou danos materiais de mais de um bilhão de dólares. Estes riscos devem ser causados por armas biológicas, falhas de segurança do modelo ou ataques cibernéticos.

A Anthropic sugere que independentes avaliadores, registrados no Departamento de Comércio dos EUA, analisem os riscos potenciais dos modelos de IA. Esses avaliadores podem ser remunerados pelos laboratórios de IA, desde que a remuneração não esteja condicionada ao resultado das avaliações.

O projeto de lei também estabelece que, após a identificação de um risco iminente, os avaliadores têm 72 horas para informar o Departamento de Comércio, que então solicitará uma ordem judicial para impedir a distribuição do modelo.