A percepção é de especialistas entrevistados pela revista eletrônica Consultor Jurídico, que apontam uma série de violações da plataforma e dos usuários. A IA generativa do X tem sido usada de forma frequente para produção de deepfakes de mulheres e crianças. Os usuários pedem para o robô produzir imagens das pessoas com pouca roupa ou sem roupa alguma. A partir disso, as fotos são amplamente compartilhadas.

A rede social diz que mudou as diretrizes do Grok para tentar coibir as fotos falsas sexualizadas e restringiu a geração de imagens aos usuários que pagam mensalidade. Mas, na prática, nada mudou. Vários sites especializados, como o The Verge, fizeram testes recentes que mostram que as imagens de nudez sem consentimento ainda podem ser geradas sem muito esforço.

Do ponto de vista criminal, a prática do usuário configura violação da dignidade sexual e pode ser enquadrada no artigo 218-C do Código Penal, que criminaliza a divulgação de cenas de sexo, nudez ou pornografia sem consentimento, com pena de reclusão de um a cinco anos, além de multa.

“Mesmo quando a conduta começa no ‘pedido para a IA gerar’, é possível discutir também o artigo 216-B do CP, que pune quem produz, por qualquer meio, conteúdo de nudez íntima e privada sem autorização, com pena de detenção de seis meses a um ano e multa”, explica o criminalista Welington Arruda.

Marcos Poliszezuk, sócio fundador do escritório Poliszezuk Advogados, afirma que a “modificação de imagem por IA, especialmente quando voltada à criação de conteúdo difamatório ou vexatório com conotação sexual, pode se enquadrar no crime de divulgação não consensual de conteúdo íntimo ou sexual”, diz, citando o artigo que criminaliza a chamada pornografia de vingança.

Violência psicológica

Poliszezuk explica que, se a vítima for mulher, o autor do prompt também pode ser enquadrado na Lei 15.123/2025, que agravou a pena do crime de violência psicológica contra a mulher quando este é praticado com uso de IA ou outra tecnologia que altere imagem ou som da vítima. A ideia da norma é justamente coibir uso de deepfakes, como os que o Grok produz.

As vítimas podem buscar a responsabilização judicial dos usuários. Na esfera penal, uma notícia-crime pode ser enviada ao Ministério Público para que os promotores requisitem a quebra de sigilo do usuário e, se for o caso, instaurem ação penal contra o indivíduo que ordenou a produção das imagens. Os especialistas salientam que o artigo 22 do Marco Civil da Internet prevê expressamente esse tipo de situação, tanto para ações cíveis quanto penais:

A parte interessada poderá, com o propósito de formar conjunto probatório em processo judicial cível ou penal, em caráter incidental ou autônomo, requerer ao juiz que ordene ao responsável pela guarda o fornecimento de registros de conexão ou de registros de acesso a aplicações de internet.

“Em resumo: sim, pode dar cadeia, especialmente quando há divulgação do conteúdo; e sim, a vítima pode pedir judicialmente os dados necessários para chegar ao responsável. O ponto central é tratar isso como o que é: violência e crime, não ‘efeito colateral’ de uma ferramenta”, diz Welington Arruda.

Dano evidente

Quanto à perspectiva da responsabilidade civil do X, os especialistas entrevistados pela ConJur têm posição unânime: a plataforma responde pelos danos causados aos usuários. No julgamento do RE 1.037.396 (Tema 987), o Supremo Tribunal Federal decidiu que redes sociais podem ser responsabilizadas por conteúdos criminosos gerados por terceiros, incluindo os que usam suas ferramentas de IA.

O STF foi claro ao afirmar que há “presunção de responsabilidade dos provedores quando se tratar de rede artificial de distribuição (chatbot ou robôs)”. Nesses casos, diz a tese firmada, a responsabilização independe de notificação.

O advogado Omar Kaminski, especializado em Direito Digital, explica que há tanto responsabilidade subjetiva quanto objetiva da plataforma nos casos de imagens geradas sem consentimento. A comprovação do dano também independe da identificação do usuário.

“A vítima pode, sim, ajuizar ação civil diretamente contra a empresa de tecnologia, alegando responsabilidade objetiva (pelo risco da atividade) ou subjetiva (por negligência, falha de segurança ou ausência de mecanismos de prevenção). Isso é possível mesmo sem a identificação do autor da violação, já que a empresa é fornecedora do serviço e pode ser considerada responsável solidária em alguns casos.”

O advogado Spencer Toth Sydow, doutor em Direito pela USP e autor do livro Exposição Pornográfica Não Consentida na Virtualidade (Editora Tirant), endossa a percepção. “Na esfera civil, não há dúvidas de que cabe indenização à pessoa retratada na imagem. Acredito que o STJ deve reconhecer tratar-se de dano moral in re ipsa, ou seja, presumido e que dispensa prova do prejuízo.”

O argumento de que a imagem gerada não é verdadeira não isenta o X de responsabilização cível, afirma o advogado Fabrício Bertini Pasquot Polido, sócio do L.O. Baptista.

“Ainda que se sustente tratar-se de conteúdo sintético ou deepfake, o X poderá ser notificado e acionado judicialmente não apenas para identificar o usuário na plataforma — por meio de logs de acesso e comunicações privadas com outros usuários potencialmente envolvidos na prática delituosa —, como também pode ser civilmente responsabilizado pelo conteúdo”, afirma.

Um levantamento publicado pela Bloomberg mostrou que o Grok gerou, em um período de 24 horas, cerca de 6,7 mil imagens de cunho sexual por hora. Ao todo, foram mais de 160 mil imagens geradas em um dia. Os dados foram coletados nos dias 6 e 7 de janeiro deste ano.

O número de fotos falsas produzidos pela IA é considerado sem precedentes. Em comparação, o levantamento divulgado pelo veículo americano monitorou simultaneamente outros cinco sites que oferecem esse tipo de conteúdo (IA que pode gerar imagens), cuja média foi de 79 imagens de cunho sexual por hora.