O vídeo que mostrava um canguru de apoio emocional sendo impedido de embarcar em um avião viralizou em poucas horas, atingindo mais de 11 milhões de visualizações. Apesar de conter uma sinalização discreta informando que se tratava de uma criação por inteligência artificial, o conteúdo reacendeu debates sobre a confiabilidade dos vídeos gerados por plataformas de IA generativa.

O episódio aconteceu no fim de maio, pouco após o Google lançar o Veo 3 — uma ferramenta que rapidamente povoou a internet com vídeos de altíssimo realismo.Mais do que impressionar com animações visualmente sofisticadas, essas tecnologias simulam emoções humanas, movimentos de câmera e expressões faciais com precisão espantosa.

Leia: Computação quântica: A grande aposta das big techs

“É fundamental estar atento ao potencial significativo de desinformação e uso malicioso dessas tecnologias, especialmente na criação de deepfakes altamente convincentes. Imagine, por exemplo, vídeos falsos de figuras públicas fazendo discursos que jamais aconteceram, ou cenas de eventos inventados que circulam nas redes como se fossem registros autênticos. Embora o Veo 3 conte com restrições específicas, como o bloqueio à geração de vídeos envolvendo pessoas públicas, essas barreiras podem estar ausentes, ou ser facilmente burladas, em outras ferramentas similares”, explica Fabrício Carraro, Program Manager da Alura.

“A inteligência artificial inaugura uma era exponencial sem precedentes, com mudanças na forma como vivemos, nos relacionamos e construímos o amanhã. E na mesma proporção das oportunidades, vem os desafios e os riscos. Nessa direção a ascensão dos vídeos ultrarrealistas gerados por inteligência artificial inauguram uma nova era de manipulação perceptiva, na qual a linha entre o real e o sintético se dissolve com velocidade alarmante”, explica Ale Fu, Executiva e Conselheira de Tecnologia e Inovação.

Quando a IA serve a propósitos duvidosos

O uso de vídeos sintéticos para enganar, manipular e até cometer crimes digitais tornou-se um dos pontos mais preocupantes desse novo cenário. Há casos em que essas ferramentas são usadas para criar conteúdos que distorcem fatos, inflamam tensões ou facilitam golpes. Uma reportagem da Time demonstrou como vídeos falsos e incrivelmente realistas, gerados com o Veo 3, podem simular levantes populares e fraudes eleitorais. Para Marioo, Sócio e Diretor Criativo da Human, os profissionais que lidam com IA precisam adotar uma postura ética: “Produzir conteúdos com inteligência artificial exige cuidado criativo e responsabilidade redobrada. A primeira regra é ética: nunca utilizar rostos reais sem consentimento claro, nem se apropriar indevidamente da identidade visual de artistas sem reconhecimento ou contexto.”

Segundo dados do YouTube, 96% dos criadores de conteúdo brasileiros já utilizam IA generativa. A Conversion indica que mais de 90% dos usuários digitais no Brasil fazem uso frequente dessas tecnologias. Rodrigo Helcer, Especialista em IA e Fundador da Stilingue by Blip, chama atenção para o potencial destrutivo dos deepfakes.

“Se tudo pode ser falsificado, o ‘ver para crer’ deixa de existir. O risco maior é que verdades reais passam a ser questionadas; mentiras podem parecer provas. Vídeos falsos com cenas comprometedoras já causam danos em escolas, empresas e entre figuras públicas. Mesmo que desmentidos, os danos à reputação são difíceis de reverter.”

Ale Fu ressalta que os efeitos dessas ferramentas vão além do campo tecnológico, atingindo pilares sociais, políticos e cognitivos. “Vídeos ultrarrealistas facilitam a manipulação de narrativas públicas e a disseminação de desinformação com alto grau de verossimilhança, corroendo a confiança coletiva na imagem como evidência. São ferramentas de extorsão e fraude, ao mesmo tempo em que escalam riscos podendo gerar crises com base em simulações falsas. A concentração de poder nas mãos de quem domina essas ferramentas aprofunda desigualdades e cria vantagens desleais em mercados e debates públicos.”

O papel das empresas diante do avanço da IA

O Projeto de Lei 2.338/23, apelidado de Marco Legal da Inteligência Artificial, foi aprovado no Senado e está em análise pela Câmara dos Deputados. O texto estabelece normas para o uso ético da IA no Brasil, incluindo requisitos de transparência, respeito aos direitos autorais e mecanismos para prevenir discriminações algorítmicas. Entre os dispositivos previstos, está a exigência de que empresas divulguem quais dados foram usados para treinar modelos de IA e concedam aos autores o direito de proibir o uso de suas obras.

Carraro defende que as corporações têm papel crucial nesse cenário. “O ideal seria que as empresas deixassem claro, de forma transparente, quando o conteúdo foi gerado por IA, especialmente em casos de possível ambiguidade. O Google, por exemplo, afirma que o Veo 3 inclui marcações digitais para indicar a origem do vídeo, mas essas sinalizações não são visíveis diretamente no conteúdo final, apenas como metadados, o que limita sua eficácia na identificação por parte do público.”

Helcer acrescenta que as organizações precisam se antecipar aos dilemas provocados pelas falsificações digitais. “Como proteger reputações em um mundo de vídeos falsos? Como treinar jovens profissionais para desenvolver senso crítico diante da IA? Como manter a confiança pública no audiovisual como prova pós-morte do ‘ver para crer’?”, alerta.

Como as big techs estão reagindo?

O Google afirma que “acredita no potencial da IA para democratizar a produção criativa e que está tomando medidas para evitar usos mal-intencionados”. Já a OpenAI, responsável pelo Sora, destaca que está em fase de desenvolvimento de políticas que assegurem um uso consciente da ferramenta. O CEO do Google, Sundar Pichai, tem reiterado que a criação de normas deve ser fruto de uma articulação entre governos, empresas e sociedade civil.

Principais plataformas de vídeo com IA generativa

De acordo com Marioo, algumas ferramentas já se destacam no mercado pela qualidade técnica e criativa de seus vídeos:

Visual Electric

“Notável pela sofisticação visual, foi desenvolvida especificamente para designers. Seus outputs têm uma qualidade estética superior, ideais para publicidade, moda e editorial.”

Kling V2.1

“Destaca-se pela fluidez e realismo. Sua especialidade é transformar imagens estáticas em vídeos dinâmicos e convincentes, oferecendo movimentos de câmera naturais e transições suaves.”

Veo 3 (Google)

“Chegou recentemente impressionando o mercado pela qualidade inédita de sincronização labial e efeitos sonoros altamente realistas. Embora não seja ideal para narrativas mais complexas devido à dificuldade em manter consistência visual e narrativa, é excepcional para criar experiências imersivas e altamente realistas em vídeos curtos.”

Flora

“Inovadora por sua abordagem multimodal e visual, permite que usuários criem fluxos personalizados utilizando diferentes tipos de mídia, tudo dentro de uma interface visual expansível e intuitiva. É perfeita para criativos com perfil mais experimental.”

Sora (OpenAI)

“O modelo de geração de vídeos da OpenAI, destaca-se por sua capacidade de criar cenas complexas com múltiplos personagens e movimentos detalhados, mantendo a qualidade visual e aderência ao prompt do usuário.”

(Com informações de Forbes)
(Foto: Reprodução/Freepik)