Divulgação de imagens sexuais falsas geradas por IA pode virar crime

Nos últimos anos, a inteligência artificial está sendo cada vez mais utilizada pela sociedade, seja para tarefas simples, como escrever uma legenda para um post nas redes sociais, seja para atividades mais complexas como a escrita de trabalhos acadêmicos. Além de texto, algumas IA’s possuem a função de criar imagens e vídeos. Há três anos, essas mídias apresentavam diversas incongruências que passavam despercebidas pelo algoritmo, mas não pelos olhos humanos: pessoas com mais dedos em uma das mãos ou com mais dentes na boca do que estamos acostumados. Era como se assistíssemos a um sonho desconexo. Porém, hoje em dia, estamos cada vez mais inseguros com o que consumimos na internet. Aqueles com um olhar mais treinado podem perceber, aqui ou ali, detalhes que entregam que aquilo não é real, mas, para a maior parte da população, aquilo se torna uma verdade absoluta.

A princípio, isso é uma coisa maravilhosa que está disponível ao ser humano: a possibilidade de criar, mesmo sem possuir grande conhecimento técnico para isso. Se antes os cenários fantasiosos que permeavam o imaginário eram feitos apenas por grandes produtoras de Hollywood, agora qualquer um, com uma inteligência artificial mais avançada, consegue escrever poucos comandos e ter um  bom resultado. Ocorre que nem todos utilizam a ferramenta para o aumento de produtividade e o estímulo criativo. 

Tem se tornado comum notícias sobre o uso indevido e criminoso da inteligência artificial. Criminosos com um simples prompt, conseguem transformar uma foto qualquer em um conteúdo sexual. É assustador, mas real: uma simples fotografia postada sem qualquer pretensão pode se transformar num pesadelo para a vítima. Foi o que ocorreu em Cuiabá/MT, onde alunos foram expulsos da escola após criarem nudes falsos da professora e de colegas. Os infratores, que possuíam entre 12 e 16 anos, manipularam e divulgaram, em grupos, a imagem de mais de 30 colegas. O chamado deepfake é uma técnica que permite a manipulação de fotos e vídeos, ocasionando na disseminação de informações falsas, bem como colocando a vítima em situações vexatórias. Por exemplo, o rosto de uma pessoa em uma foto de perfil no WhatsApp pode ser facilmente colocada em um vídeo pornográfico. Infelizmente, o caso não é isolado. Em julho de 2024, no estado de Alagoas, a polícia civil concluiu um inquérito policial que apontava sete adolescentes como autores de montagens pornográficas. O grupo manipulava imagens de meninas conhecidas na região e planejava comercializá-las por R$10 cada.

Com notícias aparecendo todos os meses sobre o uso inapropriado e criminoso das IA’s, questiona-se como o Estado pode evitar que isso siga ocorrendo. No dia 19 de fevereiro de 2025, foi aprovado pela Câmara dos Deputados um projeto de lei (3821/2024) que inclui no Código Penal o crime de manipulação digital e divulgação de nudez ou ato sexual falsos gerados por IA. O PL é de autoria da deputada Amanda Gentil (PP-MA). Se aprovado pelo Senado, o crime poderá ser punido com reclusão de 2 a 6 anos e multa, caso o fato não constitua outro crime ainda mais grave. Nos casos em que a vítima for criança, adolescente, mulher, pessoa idosa ou com deficiência, terá a pena aumentada de ⅓ até a metade. Quando for cometido com disseminação em massa, através de grupos e redes sociais a pena será aumentada de ⅓ ao dobro.

Segundo a relatora, a deputada Yandra Moura (União-SE), "a inviolabilidade da imagem não se limita aos meios físicos de violação. Não podemos nos esquivar de regulamentar o uso das tecnologias referentes a inteligência artificial e aos limites de seu uso".

Na última semana, foi aprovado pelo Senado outro PL (370/2024), de autoria da deputada Jandira Feghali, do PCdoB/RJ, que aumenta a pena do crime de violência psicológica contra mulher quando cometido por meio de manipulação de imagens e vídeos. Segundo a deputada, “a prática de tais condutas delituosas configura uma séria violação da privacidade e da intimidade, capaz de ocasionar danos emocionais e psicológicos significativos às vítimas, comprometendo sua dignidade e autoestima”. Ou seja, observa-se uma grande movimentação no poder legislativo para conter crimes que utilizam essas novas tecnologias e que causam um dano inestimável à honra das vítimas.

O uso criminoso não se limita ao conteúdo sexual, mas também é uma ferramenta política, podendo mudar o rumo das eleições locais e impactar profundamente as eleições nacionais. O Supremo Tribunal Federal, em outubro de 2024, lançou um Guia Ilustrado Contra as Deepfakes, abordando tópicos importantes, como quais são os tipos deepfakes, como identificá-las e como proceder com a denúncia. Uma das dicas passada aos leitores sobre como reconhecê-las está, entre outras, a verificação da “falta de sincronia entre o movimento dos lábios e a fala”, da “rigidez ou falta de naturalidade no movimento corporal, os “elementos com aparência artificial, como o próprio cenário, a iluminação, as cores, e a própria expressão das pessoas reproduzidas no vídeo”, bem como das “diferenças entre o tom da pele do corpo e a tonalidade do rosto”. Outra recomendação do Guia, ao tratar de vídeos e imagens, é a de visualizar a mídia em “tela cheia, preferencialmente em telas grandes, como  tablet ou computadores, pois a “ampliação facilita a visualização de falhas na reprodução”.

Segundo o STF e a organização Data Privacy Brasil, as deepfakes mais sofisticadas estão sendo produzidas com uso de redes generativas adversárias. Ou seja, são dois algoritmos que competem entre si, enquanto um gera o conteúdo falso, o outro possui a função de descobrir e apontar falhas, fazendo com que o primeiro algoritmo fique cada vez mais avançado, produzindo distorções da realidade que são quase imperceptíveis.

Diante dos desafios trazidos pelas novas tecnologias, torna-se essencial a intervenção estatal para coibir o uso criminoso da inteligência artificial. Essas ferramentas, criadas para facilitar a vida humana, frequentemente são deturpadas para fins ilícitos. As discussões e propostas que surgem no Congresso e no Senado, ainda que em ritmo lento, representam um avanço na contenção desses crimes.

Caso você, ou alguém que conheça tenha sido vítima de deepfake, procure, de preferência, uma delegacia especializada em crimes cibernéticos ou denuncie pelo Disque-Denúncia (181).

Por Luis Guilherme Biston

Aluno de Direito

---

REFERÊNCIAS BIBLIOGRÁFICAS:

Alunos são expulsos após usar inteligência artificial para criar nudes falsos de professora e colegas em escola particular de Cuiabá. Disponível em: <https://g1.globo.com/mt/mato-grosso/noticia/2024/09/25/alunos-sao-expulsos-apos-usar-inteligencia-artificial-para-criar-nudes-falsos-de-professora-e-colegas-em-escola-particular-de-cuiaba.ghtml>. Acesso em: 22 mar. 2025.

Brasil. Guia Ilustrado Contra as Deepfakes. Supremo Tribunal Federal; Data Privacy

Brasil. Brasília: STF, Coordenadoria de Combate à Desinformação. Disponível em: <https://portal.stf.jus.br/desinformacao/doc/Guia%20ilustrado%20Contra%20DeepFakes_ebook%20(1).pdf>. Aceso em: 20 mar. 2025.

Divulgação de imagens sexuais falsas geradas por IA pode virar crime. Disponível em: <https://www12.senado.leg.br/noticias/materias/2025/02/21/divulgacao-de-imagens-sexuais-falsas-geradas-por-ia-pode-virar-crime>. Acesso em: 24 mar. 2025.

HONORATO, L. Inteligência artificial acende alerta para crimes de pornografia e vingança com imagens falsas criadas com deepfake - Polícia Civil. Disponível em: <https://www.policiacivil.se.gov.br/inteligencia-artificial-acende-alerta-para-crimes-de-pornografia-e-vinganca-com-imagens-falsas-criadas-com-deepfake/>. Acesso em: 22 mar. 2025.

Inteligência artificial tem impulsionado imagens de abuso na internet. Disponível em: <https://agenciabrasil.ebc.com.br/geral/noticia/2024-02/inteligencia-artificial-tem-impulsionado-imagens-de-abuso-na-internet>.

O que é deepfake e por que você deveria se preocupar. Disponível em: <https://tecnoblog.net/responde/o-que-e-deep-fake-e-porque-voce-deveria-se-preocupar-com-isso/>.

Polícia conclui que adolescentes fizeram montagens pornográficas de colegas em Alagoas. Disponível em: <https://www.cnnbrasil.com.br/nacional/adolescentes-usavam-ia-para-criar-imagens-pornograficas-de-colegas-diz-policia-de-alagoas/>.

Proposta aumenta pena de crime contra mulher feito com inteligência artificial - Notícias. Disponível em: <https://www.camara.leg.br/noticias/1040389-proposta-aumenta-pena-de-crime-contra-mulher-feito-com-inteligencia-artificial>. Acesso em: 24 mar. 2025.