Governo federal determina que X tome medidas para impedir criação de conteúdo erótico por Grok

O governo federal determinou que a rede social X implemente, imediatamente, medidas aptas para impedir a produção de conteúdo sexualizado ou erotizado de crianças, jovens e adultos, a partir da ferramenta de inteligência artificial Grok. Também determinou que a rede preste informações sobre previdências tomadas para sanar os problemas identificados e que forneça relatórios mensais sobre sua atuação a respeito.

As medidas foram tomadas após instituições do governo avaliarem que as providências apresentadas pelo X eram insuficientes. Em resposta à Recomendação Conjunta da Secretaria Nacional do Consumidor (Senacon), do Ministério da Justiça e Segurança Pública (MJSP), da Agência Nacional de Proteção de Dados (ANPD), e do Ministério Público Federal (MPF), a rede informou que removeu as publicações e suspendeu centenas de contas por violação às regras da plataforma.

Mas as instituições observaram que as informações não foram acompanhadas de resultados concretos, relatórios técnicos ou mecanismos para aferir sua efetividade. Além disso, testes realizados pelos órgãos dão indícios de que algumas falhas ainda persistem e que os conteúdos problemáticos seguem circulando, apesar das recomendações.

Medidas adotadas

Senacon

A Senacon determinou que o X implemente imediatamente soluções para impedir a geração de imagens, vídeos ou arquivos de áudio pelo Grok de pessoas — em especial, de crianças e adolescentes — em contexto sexualizado ou erotizado sem consentimento.

Além disso, a secretaria exigiu a apresentação enumerada com detalhamento sobre as providências tomadas para conter o risco apresentado e sanar os problemas apontados na Recomendação Conjunta. Também pediu um relatório com dados sobre identificação, moderação, remoção e indisponibilização desses conteúdos, além de prazo médio de resposta.

Por fim, a Senacon afirmou que o descumprimento das medidas será considerado prova suficiente para instauração de um processo administrativo, que poderá culminar em multa e outras punições.

ANPD

A ANPD expediu uma medida protetiva pedindo que o X aprimore e implemente imediatamente mecanismos para impedir a produção de conteúdo sexualizado ou erótico pelo Grok de pessoas, especialmente, crianças e adolescentes. As medidas devem abranger todas as versões, planos e modalidades.

Assim como na Senacon, o X deve apresentar relatório com as providências tomadas para resolver os as irregularidades. A agência deu um prazo de cinco dias úteis para cumprimento da determinação e envio dos documentos para comprovar eficiência das medidas adotadas.

Em caso de descumprimento, a agência pode adotar medidas severas, como a aplicação de multa diária.

MPF

O ministério ordenou a entrega de relatórios mensais, a contar a partir deste mês, com detalhes de como a plataforma está atuando para impedir e reprimir a produção de deepfakes com pessoas, especialmente, crianças e adolescentes. No documento, deve constar a quantidade de postagens nocivas que foram derrubadas e o número de contas responsáveis, suspensas.

O MPF destacou que o X não foi transparente sobre as medidas que alega terem sido adotadas e se limitou a dar informações genéricas ou que não diziam respeito especificamente ao que ocorreu com o Grok. Por esse motivo, o ministério pediu que a rede social apresente relatórios periodicamente para avaliar a quantidade das providências tomadas.

Caso os relatórios não sejam apresentados dentro do prazo, o X pode responder pelo crime de desobediência, além de sofrer medidas investigatórias mais incisivas e, se necessário, tornar-se alvo de ação judicial.