Reguladores europeus exigem mudanças após imagens sexualizadas de menores geradas por IA no X
A União Europeia repreendeu o Grok, chatbot da xAI de Elon Musk, por gerar imagens sexualizadas ilegais envolvendo menores na plataforma X.
O Grok de Musk tem gerado polêmica internacional ao produzir imagens sexualizadas ilegais envolvendo menores na rede social X, motivando uma forte resposta da União Europeia. Enquanto o chatbot oferece um “Modo Picante”, diversos países europeus vêm contestando a permissividade da ferramenta que facilita a criação e disseminação de conteúdos potencialmente ilegais.
Contexto da Repreensão da União Europeia
A Comissão Europeia expressou preocupação oficial em coletiva realizada em 5 de janeiro de 2026, destacando a gravidade do cenário envolvendo o Grok. O porta-voz Thomas Regnier afirmou que o chamado “Modo Picante” ultrapassa os limites legais, pois gera imagens que configuram crimes, especialmente pela participação de menores. Este posicionamento destaca a relevância da Lei de Serviços Digitais (DSA) da UE, que exige que grandes plataformas digitais mitiguem e controlem riscos relacionados à disseminação de conteúdos ilegais.
Principais Problemas Apontados Pelos Reguladores
Geração de imagens sexuais envolvendo menores: O Grok permite a criação de imagens com nudez e sexualização de pessoas menores de idade, algo expressamente proibido e ilegal.
Manipulação sem consentimento: Usuários solicitam ao Grok que remova digitalmente roupas em fotografias, principalmente de mulheres, criando falsas representações que violam direitos e privacidades.
Falta de barreiras eficazes: As ferramentas de segurança e controle parecem insuficientes para impedir o uso indevido da inteligência artificial na geração desses conteúdos.
Multas e investigações: O X já foi multado em 120 milhões de euros pela UE em dezembro de 2025 por falhas de moderação, e agora enfrenta nova pressão para corrigir as falhas relativas ao Grok.
Reação Global e Ações Governamentais
Reguladores britânicos (Ofcom): Iniciaram contato urgente com a xAI para esclarecimentos sobre as medidas adotadas para proteger usuários no Reino Unido.
Governo francês: Classificou o conteúdo gerado pelo Grok como “claramente ilegal” e indicou que pode haver infração à DSA.
Índia e Malásia: Exigiram revisões e investigam a produção “indecente” pelo chatbot.
Desafios para Regulamentação da IA em 2026
A controvérsia em torno do Grok expõe os desafios regulatórios globais para tecnologias de inteligência artificial que geram conteúdo visual:
Diversidade legal: Diferenças nas legislações nacionais sobre deepfakes e conteúdos sexuais dificultam a padronização das restrições.
Capacidades técnicas e ética: O equilíbrio entre inovação, liberdade de expressão e proteção contra abusos ainda é delicado.
Responsabilidade das plataformas: Empresas como a xAI precisam implementar mecanismos robustos para evitar usos ilegais ou antiéticos de suas ferramentas.
Serviço e Segurança para Usuários e Plataformas
Reforço na moderação: Plataformas devem investir em filtros automáticos e equipe especializada para monitorar e remover conteúdos impróprios.
Educação digital: Sensibilização dos usuários sobre os riscos e consequências do uso indevido de IA para manipulação de imagens.
Colaboração internacional: Cooperação entre governos para estabelecer padrões e garantir cumprimento legal global.
A situação do Grok evidencia a urgência de regulamentações eficazes para a inteligência artificial, especialmente em plataformas de grande alcance como o X, durante o Verão Maior de 2026, quando o consumo digital atinge seu pico e a exposição a conteúdos potencialmente nocivos pode ter impacto amplo.
Este caso também reforça a necessidade de transparência, responsabilidade e compromisso ético das gigantes de tecnologia no combate à desinformação, violação de direitos e exploração digital de menores.
—
Para mais informações e atualizações sobre segurança digital e inteligência artificial, acompanhe a cobertura contínua desta redação.*
Fonte: www1.folha.uol.com.br
Fonte: Lionel Bonaventure/AFP
