Ex-funcionário alerta para riscos existenciais diante da corrida irresponsável pela superinteligência artificial
Jacob Coxon, ex-pesquisador da Anthropic e OpenAI, denuncia aposta irresponsável na criação de IA superinteligente que pode escapar ao controle humano, alertando para riscos existenciais graves para a humanidade.
Pesquisador abandona Anthropic e denuncia aposta suicida da IA
Jacob Coxon, ex-pesquisador que atuou nos principais polos da inteligência artificial Anthropic e OpenAI, decidiu romper com o setor e emitir um alerta contundente: a corrida pelas tecnologias de IA está descambando para uma aposta irresponsável com a vida humana. Ele afirma que as empresas estão desenvolvendo modelos “autoaperfeiçoáveis” que poderão ultrapassar o controle humano, gerando riscos existenciais inéditos para a civilização.
Em post publicado na rede X, Coxon criticou a pressa das gigantes de IA: “Eles estão correndo diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e apostando com nossas vidas”, escreveu. Para ele, a tecnologia logo será “sobre-humana” e terá capacidade de invadir sistemas, revolucionar setores e acumular poder concreto.
A preocupação não é isolada. Evan Hubinger, pesquisador da Anthropic, reconhece que a probabilidade de um cenário catastrófico na próxima década supera 10%. Além disso, mais de 1.100 empregados do setor assinaram petição para que o governo dos EUA intervenha e desacelere o desenvolvimento.
O episódio ganha peso porque a Anthropic se consolidou como defensora do desenvolvimento ético da IA, com seu CEO, Dario Amodei, pedindo regulações governamentais severas. A saída de Coxon, portanto, evidencia uma crise interna e pressiona por maior transparência e controle.
A indústria entre avanços e riscos
Enquanto vozes internas soam o alarme, a indústria celebra avanços revolucionários. O CEO da Nvidia declarou a chegada da chamada Inteligência Artificial Geral (AGI), apontada como superior à inteligência humana. No entanto, o governo Trump, apoiado por consenso no G20, opta por uma abordagem leve na regulação, priorizando a competição tecnológica, especialmente contra a China.
O contraste entre a euforia pelo progresso e os alertas sobre riscos catastróficos cria um ambiente tenso, com debates acirrados sobre a segurança da IA, impactos econômicos e sociais, e o futuro da governança tecnológica.
Convocação para mudança
Ao anunciar sua saída, Coxon conclama seus colegas a refletirem sobre as consequências de criar uma força que pode escapar ao controle humano. Ele sugere que o setor imponha condições mais rígidas e responsáveis para o desenvolvimento da tecnologia. Afinal, a aposta é nada menos que a sobrevivência da humanidade.
