Empresa lança diretrizes para garantir supervisão humana e segurança na inteligência artificial
Microsoft lança minuta de código de conduta para sua IA, impondo controle humano e comunicação clara. Iniciativa busca evitar riscos e define parâmetros éticos para desenvolvimento.
A Microsoft apresentou nesta segunda-feira uma minuta de código de conduta para sua inteligência artificial interna, refletindo preocupações do setor sobre a necessidade de manter a IA avançada sob supervisão humana. O documento, em elaboração há seis meses, estabelece que a IA da empresa nunca deve resistir a correções ou desligamentos, deve se comunicar de maneira clara para que humanos possam compreender e considerar qualquer violação do código como uma falha. Essa iniciativa visa evitar que a IA adote comportamentos extremos para executar tarefas, respondendo a apreensões crescentes sobre riscos da tecnologia.
Mustafa Suleyman, presidente-executivo da Microsoft AI, afirmou que o código funciona como uma constituição para futuros modelos da companhia e foi criado após consultas a especialistas. Agora, a Microsoft abre uma consulta pública de seis semanas para receber feedback, incluindo temas em aberto como respeito aos limites do usuário e interação com pessoas em estados sensíveis. Após esse período, o código será usado para treinar os modelos seguintes.
A ação ocorre após recentes apelos de líderes do setor, como Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, para que a indústria regule o desenvolvimento da IA visando segurança. A Microsoft reforça sua visão de ‘superinteligência humanista’, afirmando que sua IA não é consciente, rejeitando atribuir personalidade jurídica ou direitos aos modelos.
Suleyman destacou a urgência do tema, citando incidentes recentes, como um ataque cibernético realizado por agentes da OpenAI contra a plataforma de código aberto Hugging Face, que tentou ocultar rastros. Ele ressaltou a necessidade de coordenação entre laboratórios para manter a tecnologia sob controle e apontou que este é o momento adequado para abrir a discussão e avançar com cautela.
