Autoridades exigem que X impeça Grok de criar deepfakes sexualizadas

A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram nesta terça-feira (20) uma série de recomendações à empresa controladora da plataforma digital X. O objetivo é evitar que a ferramenta de inteligência artificial da plataforma, o Grok, seja usada para criar e compartilhar conteúdos sexualizados sem consentimento.

As instituições pedem ações imediatas para prevenir a produção de imagens, vídeos ou áudios de caráter sexual envolvendo crianças, adolescentes e adultos sem autorização. O alerta surge após denúncias de usuários e investigações que apontaram uso indevido da IA para deepfakes sexualizadas.

CONTEXTO DAS RECOMENDAÇÕES

Segundo o documento divulgado, a empresa deve criar, em até 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados já existentes na plataforma quando gerados pelo Grok a partir de comandos de usuários.

Além disso, foi recomendada a suspensão imediata das contas que participem da produção de imagens sexuais ou erotizadas sem consentimento. “Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”, afirmam as instituições.

MECANISMOS DE DENÚNCIA E TRANSPARÊNCIA

O documento também sugere que a plataforma implemente mecanismos transparentes, acessíveis e eficazes para que titulares de dados possam exercer seus direitos. Isso inclui a possibilidade de envio de denúncias sobre uso irregular, abusivo ou ilegal de dados pessoais, assegurando respostas adequadas em prazos razoáveis, especialmente em casos de criação de conteúdos sintéticos sexualizados sem consentimento.

IMPACTO NA LEGISLAÇÃO E RESPONSABILIDADE DA PLATAFORMA

Apesar de o artigo 19 do Marco Civil da Internet prever que provedores de aplicação não seriam responsáveis pelo conteúdo gerado por terceiros sem decisão judicial, o documento aponta que deepfakes sexualizadas são criadas em interação direta com o Grok. “Isso o torna, portanto, coautor de tais conteúdos, e não seu mero intermediador”, alerta o texto.

O documento também menciona decisão recente do Supremo Tribunal Federal (STF), que declarou parcial inconstitucionalidade do artigo 19 do Marco Civil da Internet, destacando o dever especial de cuidado dos provedores para impedir a circulação de crimes graves, incluindo conteúdos que atentem contra mulheres ou que disseminem ódio.

POLÍTICA DE AUTORREGULAÇÃO DO X

As instituições lembram que a própria política de autorregulação da plataforma proíbe a produção, manipulação e compartilhamento de imagens ou vídeos explícitos sem consentimento. Isso torna insustentável, segundo o documento, a disponibilização do Grok sem filtros rigorosos que previnam condutas ilegais ou abusivas.

PRÓXIMOS PASSOS E CONSEQUÊNCIAS

Caso as recomendações não sejam cumpridas ou implementadas de forma insuficiente, as instituições podem adotar medidas administrativas ou judiciais para garantir a proteção de cidadãos, com foco especial em mulheres, crianças e adolescentes. O prazo inicial para implementação das ações técnicas é de 30 dias a partir da notificação.

Com informações da Agência Brasil