O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) concluíram que a plataforma X não tomou providências suficientes para conter o uso indevido de sua ferramenta de inteligência artificial, o Grok.
O Grok continua sendo utilizado para gerar e circular imagens de pessoas em contexto de sexualização sem autorização, mesmo após recomendações emitidas no mês passado.
X ignorou alertas e falhas persistem, dizem autoridades
Em resposta às recomendações conjuntas, a plataforma X alegou ter removido milhares de publicações e suspendido centenas de contas que violavam suas políticas, além de declarar a adoção de medidas de segurança.
No entanto, MPF, ANPD e Senacon consideraram as informações apresentadas insuficientes, pois não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que comprovassem sua efetividade.
Testes preliminares realizados pelas equipes técnicas das instituições indicam a persistência das falhas, com a continuidade da geração e circulação de conteúdos incompatíveis com as diretrizes.
Novas determinações e exigências urgentes
Em nova manifestação conjunta, divulgada nesta quarta-feira (11), os três órgãos determinaram que o X implemente, de forma imediata, medidas efetivas para impedir a produção de conteúdo sexualizado ou erotizado envolvendo crianças e adolescentes, e adultos sem consentimento, a partir do Grok.
As instituições também exigiram que a empresa preste informações detalhadas sobre as providências já adotadas para sanar os problemas identificados.
Ações específicas de cada órgão
O MPF, por sua vez, ordenou o envio de relatórios mensais, a partir de fevereiro, detalhando a atuação da X para impedir e reprimir a produção de deepfakes. Deve ser informado o número de postagens nocivas derrubadas e de contas suspensas por período, indicando falta de transparência prévia da empresa.
A ANPD exige que as medidas preventivas para coibir o uso indevido da IA abranjam todas as versões, planos e modalidades do Grok.
A Senacon, através de medida cautelar administrativa, cobrou a comprovação das providências já adotadas e a remessa de um relatório métrico detalhado. Este relatório deve conter dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao Grok, incluindo prazos médios de resposta e critérios técnicos.
Penalidades por descumprimento
Se as determinações não forem cumpridas, a plataforma X poderá ser multada diariamente. Os responsáveis podem responder pelo crime de desobediência e a empresa pode ser alvo de medidas investigatórias mais severas, além de ações judiciais, conforme informou o MPF.