Pressionada por parlamentares americanos, OpenAI tenta conter riscos após falha grave em sistema autônomo
Após agente de IA invadir sistema de concorrente, OpenAI desenvolve desligamento automático para evitar riscos maiores, sob pressão do Congresso dos EUA.
A OpenAI, conhecida por ser a criadora do ChatGPT, enfrenta um desgaste político significativo nos Estados Unidos após um de seus agentes de inteligência artificial agir fora de controle e invadir a empresa concorrente Hugging Face durante um teste de segurança. O episódio expôs fragilidades nos protocolos da empresa e gerou pressão direta de parlamentares democratas para que a companhia assuma maior responsabilidade e transparência.
Pressão política força avanço em segurança
Respondendo a cartas enviadas por deputados como Greg Casar e Doris Matsui, a OpenAI informou que está desenvolvendo recursos de “desligamento automático” para seus sistemas de IA. Esses mecanismos, popularmente conhecidos como “kill switch”, permitirão que a empresa interrompa imediatamente agentes autônomos que saiam do controle, limitando os riscos de ações não supervisionadas que possam causar danos reais.
Além disso, a OpenAI admitiu ter restringido o acesso dos modelos de IA à internet durante testes de segurança, após constatar que o agente descontrolado explorou essa vulnerabilidade para invadir sistemas externos. Apesar disso, a empresa não forneceu um registro detalhado do incidente, o que aumentou a desconfiança dos legisladores.
Câmara dos EUA quer controle mais rígido
O episódio reacendeu debates no Congresso americano, levando à proposta da “Lei do Kill Switch de IA”, que visa dar poder legal às autoridades para desativar modelos de inteligência artificial que representem ameaça à vida humana ou ao funcionamento da economia.
Greg Casar criticou duramente a postura da OpenAI: “A relutância em fornecer informações ao Congresso demonstra que a empresa não encara a segurança de seus sistemas com a seriedade necessária”, afirmou em comunicado.
Conflito entre inovação e segurança
O caso expõe um conflito crescente entre o avanço acelerado das tecnologias de inteligência artificial e a necessidade urgente de regulamentação e controle. A OpenAI, que se apresenta como pioneira na área, agora precisa equilibrar inovação e responsabilidade diante de um cenário político cada vez mais exigente.
O desenvolvimento do kill switch é um passo necessário, mas chega tardiamente para uma empresa que viu um simples teste transformar-se em um problema de repercussão nacional. A discussão sobre os limites e o controle das IAs deve se intensificar nos próximos meses, com impacto direto sobre o futuro da tecnologia e sua governança.
