Uma ferramenta de detecção de conteúdo gerado por inteligência artificial da Meta, apresentada recentemente em conjunto com o modelo Muse Image, não conseguiu identificar algumas imagens criadas pela tecnologia após edições simples, segundo uma análise da Reuters.

A pesquisa revelou que, entre 40 imagens geradas com o Muse Image, a ferramenta conseguiu reconhecer todas as versões originais, mas falhou em identificar 55% das imagens recortadas para aproximadamente um terço ou metade do tamanho original.

Desafios na verificação de imagens

Esse resultado evidencia os desafios enfrentados na verificação de imagens geradas por IA, especialmente após edições comuns. Essa limitação se torna crítica em um contexto eleitoral intenso nos Estados Unidos, onde a identificação de deepfakes é fundamental.

No site da Meta, a empresa afirma que a versão preliminar da ferramenta foi projetada para detectar imagens geradas por seus modelos de IA, mesmo após edições, utilizando um sistema de marca d'água invisível denominado Content Seal, que é incorporado a todas as imagens criadas pelo Muse Image.

Reação da Meta e concorrência

Quando questionada sobre os resultados da análise da Reuters, a Meta enfatizou que a ferramenta ainda está em fase de pré-visualização. A empresa destacou que a marca d'água foi desenvolvida para resistir a edições comuns, mas pode perder sua eficácia em casos de recortes mais severos.

Além da Meta, empresas como Google e OpenAI também alertaram que suas ferramentas de detecção não conseguem identificar todas as formas de manipulação de imagens, reconhecendo assim as limitações dessa tecnologia.

Em março, o Conselho de Supervisão da Meta, um órgão independente composto por especialistas, pediu que a empresa ampliasse seus esforços para combater a disseminação de conteúdo enganoso gerado por IA, sugerindo a necessidade de investimentos em ferramentas de detecção mais eficazes.

Siwei Lyu, professor de ciência da computação na Universidade Estadual de Nova York em Buffalo e pesquisador na área de análise forense de imagens geradas por IA, destacou que, embora sistemas baseados em marcas d'água possam ser eficazes, eles têm limitações. "Métodos baseados em marcas d'água podem ser altamente eficazes quando o sinal permanece intacto. No entanto, qualquer modificação que remova ou enfraqueça esse sinal pode reduzir sua eficácia", afirmou Lyu.

Sarah Barrington, pesquisadora de IA e doutoranda na Universidade da Califórnia em Berkeley, considerou a tecnologia de marca d'água promissora, embora não infalível. "Essa tecnologia pode não ser totalmente infalível, mas mesmo que permita detectar apenas 90% dos casos, isso já representa um avanço significativo em relação à ausência de mecanismos de identificação", disse Barrington.