Personagens que mudam de nome, de voz e até de aparência ao longo da história, sem qualquer explicação, aparecem em vídeos de IA no Youtube Bloomberg via Getty Images Um urso panda reencontra um antigo cuidador e reage com surpresa, quase como se fosse um ser humano. A imagem é extremamente realista. Um avatar de Jesus aparece em uma praia construindo estátuas de si mesmo.

🗒️ Tem alguma sugestão de reportagem? Envie para o g1 Músicas infantis que não têm refrão claro, trazem letras incompreensíveis e misturam trechos em mais de um idioma. Personagens que mudam de nome, de voz e até de aparência ao longo da história, sem qualquer explicação.

Agora no g1 Estes são alguns dos vídeos aparentemente criados com inteligência artificial e sugeridos pelo algoritmo do YouTube, inclusive após buscas relacionadas ao universo infantil. Em um teste da BBC News Brasil, bastaram cerca de 15 minutos navegando pelos vídeos curtos da plataforma para que clipes desse tipo aparecessem. A busca inicial havia sido por temas como os jogos Roblox, Minecraft e vídeos de animais.

Produzidos em escala e replicados por diferentes canais, muitos desses conteúdos acumulam dezenas ou centenas de milhares de visualizações. Criadores chegam a recomendar o nicho infantil como uma oportunidade de negócio e afirmam ser possível obter renda com esses vídeos. Já especialistas ouvidos pela BBC News Brasil alertam que esse material pode levar as crianças a confundir realidade e ficção e afetar de forma significativa e permanente sua capacidade de atenção e seu desenvolvimento cognitivo e social.

O que explica essa invasão de vídeos gerados por IA no YouTube, o maior serviço de streaming do mundo? Um dos fatores é econômico, segundo pesquisadores ouvidos pela reportagem. O YouTube, por sua vez, diz priorizar o combate a conteúdos de IA de baixa qualidade e adotar regras mais rígidas para vídeos destinados a crianças.

Como são os vídeos infantis feitos com IA Pesquisadores identificaram músicas, conteúdo religioso e cópias de personagens com direitos autorais em vídeos gerados por IA no Youtube Reprodução/André Mintz/Youtube Ainda não é possível dimensionar com clareza o tamanho e alcance deste fenômeno. A reportagem tentou estimar a frequência com que vídeos feitos com IA aparecem para o usuário, com base no alerta visual exibido pelo YouTube para conteúdos deste tipo. A maioria, porém, não apresentava qualquer aviso, mesmo quando havia fortes indícios do uso da tecnologia, como vozes que não correspondiam aos personagens, desenhos que mudavam de forma entre uma cena e outra e gestos ou movimentos incomuns.

Pesquisadores ouvidos pela BBC News Brasil afirmam que o YouTube não identifica automaticamente vídeos feitos com IA e que muitos criadores não informam quando recorrem à tecnologia. Uma análise do jornal The New York Times feita manualmente e também com uma ferramenta de detecção ajuda a ilustrar a frequência com que esses vídeos aparecem. Em uma sessão de 15 minutos realizada após a exibição de um vídeo do canal infantil CoComelon, mais de 40% dos vídeos assistidos pareciam conter imagens geradas por IA.

Mesmo com dificuldades na coleta de dados, um estudo conduzido por André Mintz, professor do Departamento de Comunicação Social da Universidade Federal de Minas Gerais (UFMG), e pela estudante de graduação em Cinema de Animação e Artes Digitais Juno Bozzi buscou identificar a presença desse tipo de conteúdo em vídeos infantis em português e inglês no YouTube.