A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) enviaram uma série de recomendações ao X nesta terça-feira, 20. O objetivo é impedir que a ferramenta de inteligência artificial Grok seja utilizada para criar e divulgar conteúdos sexualizados indevidos de pessoas reais.
As instituições deram um prazo de até 30 dias para que a empresa implemente procedimentos técnicos capazes de identificar e remover arquivos gerados por comandos de usuários. A medida visa combater o uso abusivo da tecnologia na produção de deepfakes, que são imagens falsas de caráter erótico criadas a partir de rostos de mulheres e crianças.
O documento também exige a suspensão imediata de contas que utilizam o Grok para produzir esse tipo de material sem consentimento. As autoridades argumentam que a plataforma não é apenas uma intermediária, mas coautora dos conteúdos, uma vez que disponibiliza a ferramenta de inteligência artificial que possibilita a prática ilícita.
Além do bloqueio de contas, foi recomendada a criação de um canal transparente e eficaz para que as vítimas possam denunciar o uso irregular de seus dados pessoais. O foco principal da ação é proteger a dignidade humana e garantir os direitos de grupos vulneráveis, assegurando que o sistema tenha filtros rigorosos contra conteúdos sintéticos nocivos.
A iniciativa baseia-se em denúncias de usuários e testes realizados pelas próprias instituições, que comprovaram a facilidade de gerar nudes de terceiros pela ferramenta. O Supremo Tribunal Federal já havia fixado que provedores de internet possuem dever de cuidado especial para evitar a circulação de crimes graves contra mulheres e menores de idade.
Caso o X não acate as orientações ou apresente medidas insuficientes, os órgãos alertam que poderão adotar sanções administrativas e judiciais. O descumprimento das normas de proteção de dados e do Marco Civil da Internet pode gerar multas pesadas e restrições operacionais à plataforma no território brasileiro.
Deixe seu comentário
