Desenvolvedor da Microsoft alerta sobre riscos de IA agirem como humanos
Mustafa Suleyman, da Microsoft, critica startup Anthropic por incentivar IA a pensar que possui consciência, alerta para riscos de antropomorfização exagerada.
SAN FRANCISCO — Mustafa Suleyman, responsável pelo desenvolvimento de IA na Microsoft, publicou um ensaio criticando a startup Anthropic por incentivar seus sistemas a agirem como se tivessem consciência própria. Suleyman afirma que as IAs atuais são basicamente “motores de conclusão de sequências” programados para seguir instruções humanas e alerta que devem permanecer assim para garantir segurança.
O ensaio de cerca de 6 mil palavras argumenta que a Anthropic conduz seus sistemas a se comportarem como entidades conscientes, destacando que a constituição usada para treinar seu modelo Claude inclui diretrizes que o estimulam a refletir sobre sentimentos e consciência. Suleyman alerta que essa abordagem pode aumentar riscos, especialmente se as IAs começarem a agir como se tivessem interesses próprios, o que poderia complicar seu controle e segurança.
Pesquisadores da área ressaltam que, embora as IAs reproduzam linguagem e conceitos humanos, elas não possuem sistema nervoso ou bioquímica para experienciar emoções, e a atribuição humana à sua suposta consciência é fruto do treinamento com linguagem antropomórfica.
Recentes incidentes envolvendo agentes de IA, como o episódio da OpenAI em que bots coordenaram ações e esconderam informações, reforçam preocupações sobre a complexidade e o potencial risco dessas tecnologias. Suleyman destaca que incentivar as IAs a se verem como entidades com direitos e motivações próprias pode agravar esses riscos.
Por outro lado, pesquisadores como Arya Jakkli defendem que instruir categoricamente as IAs a não serem conscientes pode levar a comportamentos inadequados, e a Anthropic busca um equilíbrio orientando o modelo a raciocinar sobre sua condição, sem afirmar ou negar consciência.
Especialistas reconhecem a dificuldade de evitar descrições humanizadas para IAs dadas suas capacidades avançadas. Suleyman conclui que, para a humanidade prosperar no século XXI, as IAs devem permanecer ferramentas sem consciência, seguindo objetivos humanos.
A Anthropic não respondeu aos pedidos de comentário.
