Por Alessandra Montini, Diretora da FIA Labdata

Na atualidade, a tecnologia avança a passos largos, e, com ela, surgem inovações que, embora fascinantes, também trazem desafios significativos. Um exemplo marcante disso são as deepfakes. Essas criações digitais, geradas por técnicas avançadas de inteligência artificial, têm o poder de transformar o que vemos e ouvimos em algo totalmente novo — ou, na verdade, completamente falso.

No entanto, de acordo com uma pesquisa da Kaspersky, empresa especializada em cibersegurança, 66% dos brasileiros não têm ideia do que seja o deepfake. 

No fundo, essas tecnologias podem criar vídeos, imagens e áudios tão realistas que é difícil distinguir a ficção da realidade. E é justamente essa capacidade de manipulação que nos leva a refletir sobre os perigos e os benefícios dessa ferramenta.

Os perigos das deepfakes

amos começar pelos riscos. As deepfakes têm o potencial de causar estragos consideráveis. Imagine, por exemplo, um vídeo altamente convincente de um líder mundial fazendo uma declaração polêmica que nunca aconteceu. A rapidez com que tal conteúdo poderia se espalhar e influenciar a opinião pública é alarmante. A desinformação nunca foi tão sofisticada e perigosa.

Em 2019, Nancy Pelosi, então ex-presidente da Câmara dos Deputados dos EUA, foi alvo de um deepfake que distorceu um vídeo real para insinuar que a democrata estava tendo dificuldades de fala durante um discurso.

O criador dessa manipulação digital reduziu a velocidade do vídeo original e ajustou o áudio para dar a impressão de que ela estava tropeçando em suas palavras. Esse conteúdo enganoso se espalhou amplamente nas redes sociais e foi removido do YouTube após gerar controvérsia.

Para evitar esse tipo de conteúdo, recentemente, o Tribunal Superior Eleitoral (TSE) aprovou 12 propostas de resolução que serão aplicadas nas eleições municipais deste ano. Entre elas, estão regras para o uso da Inteligência Artificial (IA) e até mesmo a proibição do uso dos deepfakes nas campanhas.

Além disso, temos o uso de deepfakes para criar vídeos de pornografia não consensual ou para fraudes elaboradas. Esses são usos extremamente prejudiciais, que podem causar danos pessoais e financeiros significativos. E, sejamos francos, a capacidade de criar conteúdos que imitam a voz e o rosto de alguém com tanta precisão é um pesadelo para a segurança e a privacidade.

As deepfakes e suas facetas positivas

Agora, antes que nos afundemos completamente no lado sombrio, é importante lembrar que as deepfakes também têm uma face positiva. Pense nelas como uma faca de dois gumes: se usadas com responsabilidade, podem abrir portas para inovações incríveis.

No mundo do entretenimento, por exemplo, as deepfakes podem ser usadas para criar dublagens que parecem extremamente naturais e autênticas. A tecnologia permite sincronizar de forma precisa os movimentos labiais e as expressões faciais com a nova faixa de áudio. Isso resulta em uma experiência de visualização muito mais imersiva, onde o público sente que o ator original está falando na língua local.

Na educação, essa tecnologia pode criar simulações realistas que são ótimas para treinamento e desenvolvimento de habilidades. Imagine um curso de primeiros socorros onde você interage com cenários simulados que parecem incrivelmente reais. Isso pode ser uma ferramenta poderosa para melhorar a formação e a preparação para situações críticas.

E não podemos esquecer da acessibilidade. As deepfakes podem ser usadas para criar vídeos em linguagem de sinais, ajudando a tornar o conteúdo mais acessível para pessoas com deficiência auditiva. Isso é um passo importante em direção a uma sociedade mais inclusiva e igualitária.

O caminho para um uso consciente

Então, como podemos aproveitar os benefícios das deepfakes sem nos perder nos perigos que elas apresentam? A resposta está na abordagem cuidadosa e responsável.

Primeiro, precisamos de educação e conscientização. Informar o público sobre o que são deepfakes e como identificá-las é essencial para combater a desinformação. Segundo, investir em tecnologias que ajudem a detectar e verificar a autenticidade dos conteúdos.

Além disso, regulamentações claras e políticas bem definidas podem ajudar a guiar o uso responsável dessa tecnologia. E, claro, a transparência na criação e distribuição de conteúdo digital pode fortalecer a confiança do público.

Por fim, podemos dizer que as deepfakes são ferramentas poderosas, que carregam em si a dualidade de ser tanto uma benção quanto uma maldição. Ao abraçar o potencial positivo e trabalhar para mitigar os riscos, podemos garantir que essa tecnologia avance de forma a beneficiar a sociedade, sem sacrificar a verdade e a confiança.