Shane Legg alerta para limites de segurança no desenvolvimento da inteligência artificial geral

Shane Legg, cofundador do Google DeepMind, defende que o avanço da IA não deve superar os controles de segurança e anuncia instituto para debater inteligência artificial geral.

Shane Legg, cofundador do Google DeepMind, alertou sobre a importância de manter o desenvolvimento da inteligência artificial dentro dos limites dos controles de segurança. Ao lançar um novo instituto dedicado à inteligência artificial geral (AGI), Legg ressaltou que o rápido avanço da tecnologia não deve ultrapassar as medidas destinadas a monitorar e controlar sua evolução. Segundo reportagem do Financial Times, ele considera prematuro declarar que a AGI foi alcançada, apesar das recentes declarações de executivos de grandes empresas do setor. Legg também avaliou positivamente o apelo do CEO da Anthropic, Dario Amodei, que defende uma desaceleração, mas não interrupção, dos lançamentos de modelos avançados de IA. O instituto criado por Legg tem o objetivo de ampliar o debate público envolvendo a AGI, incluindo temas como ciência, educação, políticas públicas, filosofia e desenvolvimento humano. Seus primeiros estudos abordam a segurança na IA, políticas econômicas relacionadas e princípios para um novo utopismo. Legg mantém a previsão de 50% de chance de se alcançar uma forma mínima de AGI até 2028, conforme o relatório do Financial Times.