ChatGPT poderá acionar polícia ao detectar risco de suicídio em jovens

ChatGPT é uma das inteligências artificiais mais conhecidas. Foto: Matheus Bertelli/Pexels

A OpenAI anunciou nesta terça-feira (16) que o ChatGPT poderá acionar autoridades ao identificar adolescentes com pensamentos suicidas durante o uso da plataforma. Além disso, a empresa implementará verificação de idade e ferramentas de controle parental.

Segundo a companhia, esses recursos visam reduzir riscos e aumentar a segurança dos usuários jovens. “Se um usuário menor de 18 anos estiver com ideias suicidas, tentaremos entrar em contato com os pais do usuário e, se não for possível, entraremos em contato com as autoridades em caso de perigo iminente”, escreveu o CEO Sam Altman em comunicado.

A empresa também informou que adolescentes serão direcionados a uma experiência com políticas apropriadas para sua idade. Assim, essa versão bloqueará conteúdo sexual explícito e incluirá respostas adaptadas à faixa etária.

Controle parental

Os controles parentais permitirão que responsáveis conectem suas contas às dos filhos. Por isso, os pais poderão receber alertas caso o ChatGPT identifique sinais de sofrimento intenso.

A OpenAI acrescentou ainda: “Se não conseguirmos contatar um dos pais em uma rara emergência, podemos acionar a polícia como próximo passo”. No entanto, a companhia não detalhou todos os critérios usados para acionar as autoridades.

Além disso, não há prazo exato para a disponibilidade global de todas as funções anunciadas. A novidade surge após processos nos Estados Unidos que questionaram respostas da ferramenta em casos graves. Em resposta, a empresa reforça que busca equilibrar segurança com privacidade e suporte efetivo.

Leia também

• Por que ChatGPT não é terapia!
• Homem se intoxica após seguir dieta indicada pelo ChatGPT
• Como usar IA para turbinar os estudos para o ENEM