A inteligência artificial desbloqueou o poder de criar “deepfakes” – mídias altamente realistas, porém fabricadas. Desde vídeos que trocam perfeitamente o rosto de alguém até vozes clonadas que soam indistinguíveis da pessoa real, os deepfakes representam uma nova era onde ver (ou ouvir) nem sempre é acreditar. Essa tecnologia oferece oportunidades empolgantes para inovar em diversos setores, mas também apresenta riscos sérios.

Neste artigo, exploraremos o que são deepfakes de IA, como funcionam e as principais oportunidades e perigos que trazem no mundo atual.

O que é um Deepfake?

Um deepfake é uma mídia sintética (vídeo, áudio, imagens ou até texto) gerada ou alterada por IA para imitar de forma convincente um conteúdo real. O termo vem de “deep learning” (algoritmos avançados de IA) e “fake”, e entrou no uso popular por volta de 2017 em um fórum do Reddit onde usuários compartilhavam vídeos de celebridades com troca de rosto.

Deepfakes modernos frequentemente utilizam técnicas como redes adversariais generativas (GANs) – duas redes neurais que treinam uma contra a outra para produzir falsificações cada vez mais realistas. Na última década, avanços em IA tornaram mais fácil e barato criar deepfakes: qualquer pessoa com conexão à internet agora tem acesso a geradores de mídia sintética.

Os primeiros deepfakes ganharam notoriedade por usos maliciosos (como inserir rostos de celebridades em vídeos falsos), dando à tecnologia uma reputação negativa. Contudo, nem todo conteúdo sintético gerado por IA é nefasto. Como muitas tecnologias, os deepfakes são uma ferramenta – seu impacto (bom ou ruim) depende de como são usados.

Como observa o Fórum Econômico Mundial, apesar de existirem muitos exemplos negativos, “esse tipo de conteúdo sintético também pode trazer benefícios.” Nas seções abaixo, abordamos algumas aplicações positivas importantes do deepfake de IA, seguidas dos riscos e abusos sérios associados a essa tecnologia.

Oportunidades e Aplicações Positivas do Deepfake de IA

Apesar da reputação controversa, os deepfakes (frequentemente chamados de forma mais neutra de “mídia sintética”) oferecem várias aplicações positivas nos campos criativo, educacional e humanitário:

• Entretenimento e Mídia: Cineastas usam técnicas de deepfake para criar efeitos visuais impressionantes e até “rejuvenescer” atores na tela. Por exemplo, o último filme de Indiana Jones recriou digitalmente um Harrison Ford mais jovem, treinando uma IA com décadas de suas filmagens anteriores. Essa tecnologia pode reviver figuras históricas ou atores falecidos para novas performances e melhorar a dublagem ao sincronizar com precisão os movimentos labiais.
  No geral, os deepfakes podem produzir conteúdos mais imersivos e realistas em filmes, televisão e jogos.

• Educação e Treinamento: A tecnologia deepfake pode tornar as experiências de aprendizado mais envolventes e interativas. Instrutores podem gerar simulações educacionais ou reconstituições históricas com figuras realistas de pessoas famosas, trazendo aulas de história ou ciência à vida.
  Cenários realistas de simulação criados por IA (por exemplo, simulando uma emergência médica ou um cenário de cabine de voo) ajudam a treinar profissionais da saúde, aviação, forças armadas e outros. Essas simulações preparadas por IA preparam os aprendizes para situações reais de forma segura e controlada.

• Acessibilidade e Comunicação: A mídia gerada por IA está quebrando barreiras linguísticas e de comunicação. Tradutores deepfake podem dublar um vídeo em vários idiomas preservando a voz e os gestos do falante – uma artista, FKA Twigs, até criou um deepfake de si mesma falando idiomas que não conhece. Isso tem potencial para salvar vidas: serviços de emergência usaram tradução por voz de IA para interpretar chamadas ao 911 mais rapidamente, reduzindo o tempo de tradução em até 70% em situações críticas.
  De forma semelhante, avatares deepfake em linguagem de sinais estão sendo desenvolvidos para traduzir fala em linguagem de sinais para públicos surdos, produzindo vídeos tão realistas que algoritmos não conseguiam distingui-los de intérpretes humanos em estudos iniciais. Outro uso impactante é a clonagem pessoal de voz para quem perde a capacidade de falar – por exemplo, uma congressista dos EUA com doença neurodegenerativa usou recentemente um clone gerado por IA de sua própria voz para se dirigir aos legisladores após perder a fala, permitindo-lhe “falar com seu tom de voz” apesar da doença.
  Essas aplicações mostram como os deepfakes melhoram a acessibilidade e preservam a voz e a comunicação das pessoas.

• Saúde e Terapia: Na medicina, mídia sintética pode ajudar tanto na pesquisa quanto no bem-estar dos pacientes. Imagens médicas geradas por IA podem ampliar dados de treinamento para algoritmos diagnósticos – um estudo mostrou que um sistema de IA para detecção de tumores treinado principalmente com imagens de ressonância magnética geradas por GAN teve desempenho tão bom quanto um sistema treinado com exames reais. Isso significa que deepfakes podem impulsionar a IA médica criando muitos dados de treinamento sem comprometer a privacidade dos pacientes.
  Em terapia, deepfakes controlados também podem confortar pacientes. Por exemplo, cuidadores experimentaram criar vídeos onde um ente querido de um paciente com Alzheimer aparece como sua versão mais jovem (do período que o paciente melhor lembra), reduzindo confusão e ansiedade. Em campanhas de saúde pública, técnicas de deepfake permitiram mensagens poderosas: em uma campanha contra a malária, o vídeo do astro do futebol David Beckham foi modificado por IA para que “ele” falasse em nove idiomas diferentes, ajudando a campanha a alcançar meio bilhão de pessoas globalmente. Isso demonstra como a mídia sintética pode amplificar mensagens importantes para públicos diversos.

• Privacidade e Anonimato: Paradoxalmente, a mesma capacidade de troca de rosto que pode criar notícias falsas também pode proteger a privacidade. Ativistas, denunciantes ou pessoas vulneráveis podem ser filmados com seus rostos substituídos por um rosto gerado por IA realista, ocultando sua identidade sem recorrer a borrões óbvios.
  Um exemplo notável é o documentário “Welcome to Chechnya” (2020), que usou sobreposições de rosto geradas por IA para mascarar a identidade de ativistas LGBT fugindo da perseguição, preservando suas expressões faciais e emoções. Assim, o público podia se conectar com a humanidade dos sujeitos, mesmo que os rostos mostrados não fossem reais.
  Pesquisadores estão expandindo essa ideia para ferramentas de privacidade cotidiana – por exemplo, sistemas experimentais de “anonimização” podem substituir automaticamente o rosto de uma pessoa em fotos compartilhadas nas redes sociais por um sósia sintético se ela não consentiu em ser identificada. Da mesma forma, a tecnologia de “pele vocal” pode alterar a voz do falante em tempo real (como em jogos online ou reuniões virtuais) para evitar preconceitos ou assédio, mantendo a emoção e intenção originais.
  Essas aplicações sugerem que os deepfakes podem ajudar indivíduos a controlar sua identidade digital e segurança.

A troca de rosto por deepfake pode ser usada para anonimizar indivíduos. Por exemplo, o filme Welcome to Chechnya protegeu ativistas em risco ao sobrepor seus rostos com os de atores voluntários via IA, escondendo suas identidades enquanto mantinha expressões naturais. Isso demonstra como a mídia sintética pode proteger a privacidade em situações sensíveis.

Em resumo, os deepfakes são uma faca de dois gumes. De um lado, “o conteúdo sintético não é inerentemente positivo ou negativo – seu impacto depende do agente e da intenção”. Os exemplos acima destacam a oportunidade de aproveitar a tecnologia deepfake para criatividade, comunicação e bem social.

Por outro lado, o lado negativo dessa poderosa ferramenta é seu enorme potencial de dano quando usada maliciosamente. Nos últimos anos, surgiram muitos casos de alerta sobre enganos e abusos alimentados por deepfakes, que examinamos a seguir.

Riscos e Maus Usos dos Deepfakes

A proliferação de deepfakes fáceis de criar também gerou sérias preocupações e ameaças. De fato, uma pesquisa de 2023 revelou que 60% dos americanos estavam “muito preocupados” com deepfakes – classificando isso como seu maior medo relacionado à IA. Os principais riscos associados à tecnologia deepfake incluem:

• Desinformação e Manipulação Política: Deepfakes podem ser usados como armas para espalhar desinformação em grande escala. Vídeos ou áudios falsificados de figuras públicas podem mostrá-los dizendo ou fazendo coisas que nunca aconteceram, enganando o público. Essas falsidades podem minar a confiança nas instituições, influenciar a opinião pública ou até incitar tumultos.

  Por exemplo, durante a guerra da Rússia na Ucrânia, circulou um vídeo deepfake do presidente Volodymyr Zelensky parecendo se render; embora tenha sido rapidamente desmentido devido a falhas evidentes (como uma cabeça desproporcional e voz estranha), mostrou o potencial de adversários usarem falsificações de IA em propaganda.
  De forma semelhante, uma imagem falsa de uma “explosão” perto do Pentágono viralizou em 2023 e causou uma breve queda no mercado de ações antes das autoridades esclarecerem que era gerada por IA.

  À medida que os deepfakes melhoram, o receio é que possam ser usados para criar notícias falsas extremamente convincentes, prejudicando a capacidade do público de distinguir realidade de fabricação. Isso não só espalha mentiras, mas também cria um efeito de “dividendo do mentiroso” – as pessoas podem começar a desconfiar até mesmo de vídeos ou provas genuínas, alegando que são deepfakes. O resultado geral é a erosão da verdade e a perda de confiança na mídia e no discurso democrático.

• Pornografia Não Consentida e Assédio: Um dos primeiros e mais difundidos usos maliciosos dos deepfakes foi a criação de conteúdo explícito falso. Usando algumas fotos, agressores (frequentemente em fóruns anônimos ou aplicativos) podem gerar vídeos pornográficos realistas de indivíduos – geralmente mulheres – sem seu consentimento. Isso é uma grave violação de privacidade e assédio sexual.

  Estudos mostram que a grande maioria dos vídeos deepfake online (cerca de 90–95%) são pornografia não consentida, quase todos com vítimas mulheres. Esses vídeos falsos podem ser devastadores pessoalmente, causando humilhação, trauma, danos à reputação e até ameaças de extorsão. Atrizes, jornalistas e até pessoas comuns já tiveram seus rostos colados em conteúdos adultos.

  Autoridades e legisladores estão cada vez mais alarmados com essa tendência; por exemplo, nos EUA, vários estados e o governo federal propuseram ou aprovaram leis para criminalizar pornografia deepfake e oferecer recursos legais às vítimas. O dano da pornografia deepfake evidencia como essa tecnologia pode ser explorada para violar a privacidade, atacar indivíduos (frequentemente com viés anti-mulher) e espalhar imagens falsas difamatórias com baixo custo para o agressor.

• Fraudes e Golpes de Personificação: Deepfakes surgiram como uma arma perigosa para cibercriminosos. Clones de voz gerados por IA e até deepfakes de vídeo ao vivo são usados para se passar por pessoas confiáveis para ganhos fraudulentos. O FBI alerta que criminosos estão usando clonagem de voz/vídeo por IA para se passar por familiares, colegas ou executivos – enganando vítimas para enviar dinheiro ou revelar informações sensíveis.

  Esses golpes, muitas vezes uma versão tecnológica avançada da fraude de “personificação”, já causaram perdas significativas. Em um caso real, ladrões usaram IA para imitar a voz de um CEO e convenceram um funcionário a transferir €220.000 (cerca de US$ 240.000). Em outro incidente, criminosos deepfakaram a presença em vídeo do CFO de uma empresa em uma chamada Zoom para autorizar uma transferência de US$ 25 milhões para contas fraudulentas.

  Esses ataques de engenharia social movida a deepfake estão aumentando – relatórios mostram um pico massivo em fraudes deepfake globalmente nos últimos anos. A combinação de vozes/vídeos falsos altamente convincentes e a rapidez da comunicação digital pode pegar as vítimas desprevenidas. Empresas estão especialmente vulneráveis a golpes de “CEO falso” ou ordens de executivos falsificados.

  Se os funcionários não forem treinados para desconfiar de mídias audiovisuais, podem seguir instruções deepfake que parecem legítimas. O resultado pode ser roubo de fundos, vazamento de dados ou outros prejuízos caros. Essa ameaça levou especialistas em segurança a recomendar práticas mais rigorosas de verificação de identidade (como usar canais seguros para confirmar pedidos) e ferramentas técnicas para autenticar áudio e vídeo em transações sensíveis.

• Erosão da Confiança e Desafios Legais: O advento dos deepfakes confunde a linha entre realidade e ficção, levantando amplas preocupações sociais e éticas. À medida que o conteúdo falso se torna mais convincente, as pessoas podem começar a duvidar de provas autênticas – um cenário perigoso para a justiça e a confiança pública.

  Por exemplo, um vídeo real de má conduta pode ser descartado como um “deepfake” pelo infrator, complicando o jornalismo e processos legais. Essa erosão da confiança na mídia digital é difícil de quantificar, mas muito prejudicial a longo prazo.

  Deepfakes também apresentam questões legais complexas: Quem detém os direitos sobre a imagem gerada por IA de uma pessoa? Como as leis de difamação ou calúnia se aplicam a um vídeo falso que prejudica a reputação de alguém? Há também questões de consentimento e ética – usar o rosto ou voz de alguém em um deepfake sem permissão é geralmente considerado violação de direitos, mas as leis ainda estão se adaptando a essa realidade.

  Algumas jurisdições já exigem que mídias alteradas sejam claramente identificadas, especialmente se usadas em anúncios políticos ou eleições. Além disso, plataformas como redes sociais estão sob pressão para detectar e remover deepfakes prejudiciais (semelhante ao que fazem com outras formas de desinformação ou mídia manipulada).

  Tecnologicamente, detectar deepfakes é uma “corrida armamentista”. Pesquisadores desenvolvem sistemas de IA para identificar artefatos sutis de falsidade (por exemplo, anomalias no fluxo sanguíneo facial ou padrões de piscar). Contudo, à medida que a detecção melhora, os métodos de deepfake também evoluem para escapar dela – levando a uma batalha constante de gato e rato.

  Todos esses desafios deixam claro que a sociedade deve enfrentar como verificar autenticamente a mídia na era da IA e como responsabilizar os criadores de deepfake por usos indevidos.

Navegando na Era dos Deepfakes: Encontrando o Equilíbrio

Os deepfakes de IA apresentam um dilema clássico do progresso tecnológico: uma promessa imensa entrelaçada com perigos. Por um lado, temos usos criativos e benéficos sem precedentes – desde preservar vozes e traduzir idiomas até imaginar novas formas de contar histórias e proteger a privacidade.

Por outro lado, os usos maliciosos dos deepfakes ameaçam a privacidade, segurança e confiança pública. Seguir em frente exige maximizar os benefícios enquanto minimiza os danos.

Esforços estão em andamento em várias frentes. Empresas de tecnologia e pesquisadores investem em ferramentas de detecção e estruturas de autenticidade (como marcas d’água digitais ou padrões de verificação de conteúdo) para ajudar as pessoas a distinguir mídias reais de falsas. Legisladores ao redor do mundo também exploram legislações para conter os usos mais abusivos dos deepfakes – por exemplo, proibindo pornografia falsa, desinformação eleitoral ou exigindo divulgações quando mídias foram alteradas por IA.

No entanto, apenas regulamentações são desafiadoras, dado o rápido avanço da tecnologia e sua facilidade de cruzar jurisdições. Educação e conscientização são igualmente importantes: programas de alfabetização digital podem ensinar o público a avaliar criticamente a mídia e identificar sinais de deepfake, assim como as pessoas aprenderam a reconhecer golpes por e-mail ou tentativas de phishing.

Se os usuários souberem que imagens “perfeitas” ou sensacionais podem ser fabricadas, poderão levar isso em conta antes de reagir ou compartilhar.

>>> Clique para saber mais:

O papel da IA na era digital

Questões de IA e segurança de dados

Em última análise, o fenômeno deepfake veio para ficar – “o gênio saiu da garrafa e não podemos colocá-lo de volta”. Em vez de pânico ou proibições totais, especialistas defendem uma abordagem equilibrada: incentivar a inovação responsável em mídia sintética enquanto desenvolvem mecanismos de proteção contra abusos.

Isso significa fomentar aplicações positivas (em entretenimento, educação, acessibilidade etc.) sob diretrizes éticas, e simultaneamente investir em medidas de segurança, marcos legais e normas para punir usos maliciosos. Ao trabalharmos juntos – tecnólogos, reguladores, empresas e cidadãos – podemos construir um futuro onde a IA deepfake seja “comum, familiar e confiável”. Nesse futuro, aproveitamos a criatividade e conveniência que os deepfakes oferecem, enquanto permanecemos vigilantes e resilientes contra as novas formas de engano que possibilitam.

As oportunidades são empolgantes, e os riscos são reais – reconhecer ambos é o primeiro passo para moldar um cenário midiático impulsionado por IA que beneficie a sociedade como um todo.