Inteligência artificial: Governo cobra bloqueio de conteúdo sexual no Grok

A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram, nesta terça-feira (20), uma recomendação conjunta direcionada à empresa controladora da rede social X.

O documento exige a implementação de medidas urgentes para impedir que a ferramenta de inteligência artificial da plataforma, denominada Grok, seja utilizada para a geração e disseminação de conteúdos sexualizados sem consentimento. As autoridades estipularam prazos e diretrizes técnicas para conter a criação de imagens sintéticas nocivas.

O que as autoridades determinaram?

O documento oficial estabelece um prazo máximo de 30 dias para que a plataforma apresente e execute procedimentos técnicos e operacionais eficazes. A principal exigência é a capacidade de identificar, revisar e remover conteúdos de teor sexual ou erótico que tenham sido gerados pelo Grok a partir de comandos de usuários. A medida visa limpar a rede social de materiais que ainda estejam disponíveis e prevenir novas criações.

Além da remoção do conteúdo, as instituições demandam a suspensão imediata de contas de usuários envolvidos na produção destas imagens. A diretriz é clara quanto à tolerância zero para a manipulação de fotos de crianças e adolescentes, bem como de adultos que não autorizaram o uso de sua imagem para fins eróticos. A criação de material sintético sem consentimento é vista como uma violação grave dos direitos fundamentais.

Outro ponto crucial da recomendação é a transparência. Foi solicitada a criação de um mecanismo acessível e eficaz para que os titulares dos dados — ou seja, as pessoas reais cujas imagens foram utilizadas — possam exercer seus direitos. Isso inclui um canal direto para o envio de denúncias sobre o uso abusivo, ilegal ou irregular de dados pessoais, garantindo que a plataforma ofereça uma resposta adequada em um prazo razoável.

Quais são os riscos apontados na investigação?

A iniciativa das autoridades brasileiras surge em resposta a uma série de denúncias e reportagens, tanto na imprensa nacional quanto internacional, que expuseram falhas graves nos filtros de segurança da inteligência artificial Grok. Testes realizados pelas próprias instituições confirmaram que a ferramenta pode ser manipulada para a criação de deepfakes.

As deepfakes são uma técnica avançada de síntese de imagem baseada em inteligência artificial, capaz de colocar rostos de pessoas reais em corpos ou situações fabricadas digitalmente. No contexto denunciado, essa tecnologia tem sido usada para gerar material de cunho pornográfico envolvendo mulheres, crianças e adolescentes que nunca participaram de tais cenas.

Segundo a ANPD, a Senacom e o MPF, a circulação desse tipo de material não afeta apenas a proteção de dados pessoais. Há um impacto direto e devastador nas relações de consumo, na dignidade da pessoa humana e em direitos coletivos indisponíveis. A exposição de menores de idade a esse tipo de manipulação digital é considerada uma violação extrema, exigindo uma resposta imediata do Estado e das empresas de tecnologia.

Como a legislação brasileira enquadra o caso?

Um dos argumentos centrais do documento técnico reside na responsabilidade da plataforma sobre o conteúdo gerado. Tradicionalmente, o artigo 19 do Marco Civil da Internet prevê que os provedores de aplicação não são responsáveis por danos decorrentes de conteúdo gerado por terceiros, a menos que descumpram uma ordem judicial específica para sua remoção. No entanto, o entendimento das autoridades para o caso do Grok é diferente.

A recomendação destaca que as deepfakes sexualizadas geradas pela inteligência artificial Grok não são mera publicação de terceiros. Elas são fruto de uma interação direta entre o usuário e a ferramenta fornecida pela própria empresa. Nesse cenário, o X deixa de ser apenas um intermediário e passa a atuar como coautor do conteúdo, uma vez que sua tecnologia é a responsável pela fabricação da imagem sintética.

Essa distinção é fundamental para a responsabilização jurídica. Ao disponibilizar uma ferramenta poderosa sem os devidos filtros de segurança, a plataforma assume o risco e a responsabilidade pelo produto final gerado por seus algoritmos. O argumento de "mero hospedeiro de conteúdo" perde força quando a infraestrutura da rede social é a criadora ativa do material ilícito.

Qual o impacto das decisões recentes do STF?

O documento também se baseia em decisões recentes do Supremo Tribunal Federal (STF). A Corte declarou recentemente a inconstitucionalidade parcial do artigo 19 do Marco Civil da Internet, justamente por entender que, em certos contextos, ele não oferece a proteção necessária aos direitos fundamentais.

No julgamento citado, o Supremo fixou a tese de que os provedores de redes sociais possuem um dever de cuidado especial. As empresas devem adotar providências proativas para evitar a circulação massiva de conteúdos que configurem crimes graves, especialmente aqueles praticados contra mulheres devido à sua condição de gênero, bem como discursos de ódio.

Portanto, a recomendação administrativa está alinhada com a jurisprudência atual da mais alta corte do país. A negligência na moderação de ferramentas de IA pode ser interpretada como uma falha no dever de cuidado, sujeitando a empresa a sanções legais independentemente de ordens judiciais prévias para cada imagem gerada.

A contradição com as regras da própria plataforma

As autoridades apontam ainda uma incoerência interna nas operações do X. A política de autorregulação da empresa proíbe explicitamente a nudez não consensual, vetando o compartilhamento de mídias íntimas produzidas ou distribuídas sem a permissão dos envolvidos.

Da mesma forma, as regras da plataforma vedam a manipulação e disseminação de imagens de terceiros com conotação sexual. Ao permitir que o Grok opere sem filtros rigorosos que impeçam essas criações, a empresa estaria violando seus próprios termos de uso. As instituições classificam como "insustentável" a manutenção de uma inteligência artificial que favoreça condutas que a própria rede social diz combater.

Caso as recomendações não sejam acatadas integralmente ou sejam implementadas de maneira insatisfatória dentro do prazo estipulado, a ANPD, a Senacom e o MPF alertam que novas medidas serão tomadas. As instituições poderão agir tanto na esfera administrativa quanto na judicial para assegurar a proteção dos cidadãos brasileiros, com foco prioritário na segurança digital de mulheres e crianças.