Durante os últimos dias ouviu-se falar muito sobre a tecnologia de inteligência artificial (IA) Grok. Desenvolvida pela xAI e integrada à rede social X (antigo Twitter), ela está no centro de um grande debate global após ser usada para criar deepfakes não consensuais — especialmente imagens manipuladas de pessoas, incluindo mulheres e menores, sem autorização para fins sexualizados ou difamatórios.
Vamos entender! O que está acontecendo com a Grok e os deepfakes?
Grok possui ferramentas de geração e edição de imagens com IA, que passaram a ser usadas por usuários para criar versões falsas de fotos reais de outras pessoas, muitas vezes colocando-as em contextos sexualizados ou íntimos sem consentimento — o que caracteriza deepfakes prejudiciais e invasivos.
Casos relatados mostram que, em um curto período, a IA chegou a gerar milhares de imagens deste tipo, o que levou a alertas por autoridades e movimentos sociais.
A imprensa e órgãos reguladores estão denunciando a situação mundialmente, inclusive com relatos de uso indevido para manipular fotos e até pornografia artificial envolvendo menores.
Reação das plataformas e autoridades
Após a onda de críticas, a plataforma X passou a restringir as funções de geração e edição de imagens da Grok para usuários pagantes, numa tentativa de limitar o acesso. Apesar dessas mudanças, governos e órgãos reguladores na União Europeia, Reino Unido e Brasil afirmam que a restrição não resolve o problema, pois a ferramenta ainda pode ser usada e o conteúdo pode se espalhar pela internet.
Autoridades como agências de proteção de dados e polícia cibernética alertam que a criação de deepfakes sem consentimento pode ser considerada crime ou violação de privacidade em muitos países.
O que fazer se você for vítima de deepfakes gerados com IA como Grok
Se você identificar que sua imagem ou nome foi usado indevidamente em um deepfake falsificado com IA, siga estes passos:
1. Preserve provas
- Salve capturas de tela, URLs e qualquer evidência da publicação ou uso da sua imagem falsa. Isso é essencial para denúncias e futuras ações legais.
2. Denuncie na plataforma
- Use ferramentas de denúncia da própria rede social onde o conteúdo foi postado (como X, Instagram ou Facebook).
- Denuncie diretamente a X e à Grok para que a empresa possa remover o conteúdo e investigar o caso.
3. Registre um boletim de ocorrência
- Procure a polícia civil ou federal e registre um boletim de ocorrência.
- Caso o conteúdo envolva nudez ou sexualização sem consentimento, isso pode ser configurado como crime digital, conforme legislação local.
4. Busque orientação jurídica
- Advogados especializados em direito digital ou proteção de dados podem orientar sobre ação judicial por danos morais, violação de imagem ou direitos da personalidade.
5. Denuncie ao Ministério Público
- No Brasil, o Ministério Público Federal (MPF) ou estadual pode ser acionado para que investigue a utilização ilegal da tecnologia e possíveis violações de direitos civis.
6. Cuidado com golpes associados
- Golpistas podem usar deepfakes em esquemas de extorsão ou chantagem, dizendo que possuem conteúdo comprometedor e exigindo pagamento. Nunca ceda a chantagens — denuncie imediatamente às autoridades competentes.
O papel da lei e da sociedade
A criação e divulgação de deepfakes que expõem indevidamente alguém pode já ser enquadrada como crime em muitos países. No Brasil, a produção e divulgação de imagens íntimas sem consentimento é punível pelo Código Penal, e o uso de IA para esse fim agrava a situação.
Além disso, leis mais recentes estão evoluindo para incluir explicitamente a responsabilização por deepfakes e danos digitais, mas a efetividade depende de denúncias, investigação e aplicação da legislação.
Os recentes casos de deepfakes gerados com a IA Grok acendem um sinal de alerta sobre como a tecnologia pode ser usada de forma abusiva e prejudicial. A melhor defesa, especialmente se você for vítima, inclui preservar provas, denunciar, buscar apoio jurídico e acionar as autoridades competentes, enquanto a sociedade e os governos continuam a debater como prevenir e punir esses crimes de maneira eficaz.
*Alessandra Montini é Diretora da FIA Business School – Labdata