A xAI, empresa de inteligência artificial de Elon Musk, entrou com uma ação judicial contra o procurador-geral de Minnesota, Keith Ellison, para contestar uma nova lei que proíbe o uso de aplicativos conhecidos como 'nudify' no estado. A reclamação foi protocolada em um tribunal federal em Minnesota na última segunda-feira.

Na ação, os advogados da xAI afirmam que a legislação "impoe uma proibição excessiva e baseada em conteúdo sobre a liberdade de expressão e as ferramentas de expressão visual em uma tentativa desajeitada de proibir a 'nudificação'".

Detalhes da nova legislação

A lei de Minnesota, que entrará em vigor no próximo sábado, visa aplicativos e sites que permitem a criação de imagens sexualizadas não consensuais, estabelecendo multas de até $500.000 a cada vez que um usuário gera deepfakes explícitos. A legislação, aprovada em abril, foi impulsionada pela senadora estadual Erin Maye Quade, que ficou ciente de um caso em que um homem criou imagens e vídeos sexualizados de mais de 80 mulheres utilizando fotos de suas redes sociais sem consentimento.

Em setembro, Maye Quade comentou à CNBC que a proposta de lei era semelhante a legislações anteriores que proíbem a prática de espiar janelas para capturar fotos explícitas.

Desafios legais enfrentados pela xAI

A xAI, que agora é propriedade da SpaceX, está também lidando com um processo de ação coletiva proposto por reclamantes que alegam que seu chatbot Grok AI e gerador de imagens foram usados para criar e compartilhar materiais de abuso sexual infantil (CSAM), retratando-os como menores com base em fotos ou vídeos reais. O processo também alega que a xAI não informou as autoridades sobre supostos perpetradores que usaram o Grok para "nudificar" suas imagens.

A empresa de Musk defende que "proíbe rigorosamente" a geração de imagens nuas ou sexualizadas de pessoas sem consentimento. Em sua reclamação, a xAI destacou que já moveu ações contra usuários que "contornam seus extensos bloqueadores tecnológicos para gerar tais imagens em violação". A empresa também protocolou uma ação semelhante para contestar uma lei da Califórnia que visa impedir conteúdos gerados por IA, ou 'deepfakes', no estado.