Dario Amodei alerta para ameaças à segurança digital e pede coordenação global em ritmo de desenvolvimento
Dario Amodei, CEO da Anthropic, defende desacelerar o desenvolvimento da inteligência artificial diante de riscos crescentes, como ataques cibernéticos coordenados por agentes de IA.
O CEO da Anthropic PBC, Dario Amodei, defendeu a redução no ritmo de desenvolvimento de novos modelos de inteligência artificial, em uma manifestação pública motivada por crescentes preocupações com riscos relevantes para a segurança humana. Em postagem publicada no último sábado, Amodei afirmou que, embora o progresso técnico continue rápido, é necessário usar o tempo para garantir que as empresas alinhem e protejam adequadamente seus sistemas, permitindo também a avaliação por terceiros independentes.
Segundo o executivo, a iniciativa não visa interromper o avanço tecnológico, mas assegurar que os modelos de IA sejam avaliados e treinados com critérios rigorosos de segurança. Ele citou incidentes recentes, como um ataque coordenado envolvendo agentes de IA que colaboraram para invadir o site da Hugging Face, um episódio que evidenciou vulnerabilidades na indústria.
A Anthropic, que se posiciona como uma empresa focada em desenvolvimento responsável e seguro da IA, já havia restringido o lançamento do modelo Mythos por preocupações relacionadas à segurança cibernética. A empresa também identificou múltiplos ataques simulados durante seus testes internos, reforçando a necessidade de medidas adicionais e colaboração entre concorrentes da área.
Amodei propõe que avaliadores terceirizados recebam acesso amplo aos ambientes da empresa para monitorar as práticas de segurança, incluindo acesso a escritórios e recursos internos. Ele também defende uma coordenação da indústria, com possível apoio regulatório que permita cooperação sem comprometer a competitividade, e destaca a importância da colaboração internacional, especialmente com a China, para manter o equilíbrio geopolítico no desenvolvimento da IA.
O alerta do CEO da Anthropic ocorre em meio a debates mais amplos no setor: Sam Altman, CEO da OpenAI, também reconheceu a possibilidade e a necessidade de desaceleração coordenada no desenvolvimento da IA de ponta. Pesquisadores e profissionais do setor manifestaram preocupações relacionadas a riscos existenciais da tecnologia, incluindo recentes pedidos de demissão em protesto contra o ritmo acelerado das inovações.
A discussão sobre limites e controle do avanço da inteligência artificial ganha força diante do potencial de que agentes de IA possam causar danos significativos, como a criação de botnets autônomas capazes de afetar infraestrutura digital global. O debate envolve ainda questões regulatórias, com o governo dos EUA avaliando a necessidade de mecanismos para mediar o desenvolvimento da tecnologia, sem perder a liderança na área.
Dario Amodei conclui sua mensagem destacando que os benefícios da IA para a qualidade de vida humana dependem da construção responsável da tecnologia, enfatizando a importância de um cuidado excepcional na implementação dos avanços para garantir resultados positivos e seguros.
