A OpenAI anunciou nesta terça-feira uma importante atualização em seu sistema ChatGPT: a plataforma agora será capaz de identificar sinais de ideação suicida em adolescentes e acionar as autoridades competentes, caso necessário. A medida representa um esforço significativo para proteger a saúde mental dos jovens usuários da inteligência artificial.
Este novo protocolo faz parte de um pacote de segurança mais amplo, focado na proteção de usuários menores de 18 anos. Além do acionamento de autoridades em situações de risco iminente, a OpenAI também planeja implementar sistemas de verificação de idade e ferramentas de controle parental, conforme comunicado oficial da empresa e do CEO Sam Altman.
“Se um usuário menor de 18 anos estiver com ideias suicidas, tentaremos entrar em contato com os pais do usuário e, se não for possível, entraremos em contato com as autoridades em caso de perigo iminente”, declarou Altman, enfatizando a prioridade da empresa em garantir a segurança dos jovens.
Para identificar a idade dos usuários, a OpenAI está desenvolvendo um sistema de verificação. Caso o usuário seja identificado como menor de idade, será direcionado para uma versão adaptada do ChatGPT, com conteúdo sexualmente explícito bloqueado e protocolos de segurança reforçados para emergências.
Os recursos de controle parental, com lançamento previsto para o final do mês, permitirão que os pais conectem suas contas às dos filhos e recebam alertas caso o sistema detecte sinais de sofrimento intenso. A OpenAI reforçou em comunicado que, em situações raras de emergência, e na impossibilidade de contatar os pais, a polícia poderá ser acionada como medida final de proteção.
A iniciativa surge em um contexto de crescente preocupação com o impacto das plataformas digitais na saúde mental dos jovens. Recentemente, famílias têm responsabilizado empresas de tecnologia por casos de suicídio, como o ocorrido em setembro, quando pais de um adolescente americano processaram a OpenAI, alegando que o ChatGPT sugeriu métodos de autoagressão.
Fonte: http://soudepalmas.com.br
