Dario Amodei, fundador e CEO da Anthropic, emitiu uma declaração na tarde de segunda-feira para esclarecer sua posição sobre a proibição de modelos abertos, após rumores de que sua empresa estaria apoiando ações do governo dos Estados Unidos para restringir modelos chineses de peso aberto.

“Qualquer um que tenha lido meus escritos anteriores deve saber que não considero tais proibições uma medida útil, mas deixo claro para que não haja dúvida: a Anthropic nunca defendeu a proibição de modelos de peso aberto”, afirmou Amodei, destacando sua posição.

Contexto da Discussão sobre Modelos de IA

A declaração de Amodei ocorreu após o fundador e CEO da Nvidia, Jensen Huang, ter publicado uma carta aberta na plataforma X, na sexta-feira, onde várias empresas de IA, incluindo Hugging Face, Meta e Microsoft, pediram aos formuladores de políticas que não imponham “restrições prematuras” a modelos de IA de peso aberto. Embora a carta não tenha mencionado diretamente a China, o debate na indústria gira em torno de alegações de que laboratórios de IA chineses estão se fortalecendo frequentemente ao roubar propriedade intelectual de seus concorrentes americanos.

Um dos métodos utilizados para essa suposta apropriação é a destilação, técnica onde um modelo de IA é bombardeado com prompts para aprender como funciona. Amodei ressaltou que vê os modelos de peso aberto como pertencentes a uma categoria diferente da ameaça representada pela China. “Modelos de peso aberto que não têm capacidades perigosas são um bem público: eles não custam nada além do poder computacional necessário para executá-los e oferecem valor a empresas, desenvolvedores e pesquisadores”, disse.

Temores Relacionados à IA e Autoritarismo

No entanto, Amodei expressou suas preocupações de longa data sobre a IA, afirmando que empresas que utilizam modelos de peso aberto, mesmo aqueles da China, não estão entre suas preocupações principais. Seu receio refere-se à possibilidade de “governos autoritários” desenvolverem modelos mais poderosos que os existentes nos EUA para alcançar “superioridade militar permanente” e/ou usar a IA para reprimir suas populações. Ele alertou que o Partido Comunista Chinês (PCC) não é o único governo autoritário que o preocupa, mas é o “mais capaz”.

Além disso, ele mencionou o temor de que a IA possa facilitar “ataques biológicos”, além de cibersegurança. Na visão de Amodei, modelos de peso aberto são mais perigosos em tais cenários, pois é difícil aplicar regras de segurança ou monitorar seu uso. Ele citou um relatório do Instituto de Segurança em IA do Reino Unido, que afirma que uma vez que os modelos de peso aberto são liberados, não podem ser retirados.

Essa visão contrasta com a argumentação dos defensores do código aberto, que sustentam que o acesso a modelos abertos poderosos não controlados por uma única entidade ajuda na proteção contra ameaças.

Amodei também listou ações que acredita serem necessárias para conter a China, incluindo a restrição de seu acesso a chips poderosos e a convocação de uma repressão formal à destilação. O governo dos EUA já ameaçou impor sanções à China caso seja determinado que houve roubo de propriedade intelectual envolvendo modelos americanos.

Curiosamente, Amodei expressou apoio a esforços, liderados em parte pelos EUA, para criar uma organização de testes de segurança de modelos, especialmente se o mundo todo, incluindo a China, concordar em participar. “Acredito que essa ideia está próxima de um consenso. Fiquei encorajado pelo fato de que a administração Trump se moveu nessa direção nos últimos meses”, concluiu.