OpenAI apresenta Trusted Contact, ferramenta que avisa contatos próximos e incentiva ajuda em casos de menções a autoagressão durante interações no ChatGPT.
A OpenAI anunciou na quinta-feira uma novidade que visa aumentar a segurança dos usuários adultos do ChatGPT. Trata-se do recurso Trusted Contact, que permite a indicação de uma pessoa de confiança para ser acionada se o sistema captar indícios de autoagressão nas conversas realizadas pela ferramenta.
O recurso promete ser um suporte a mais para quem demonstra dificuldades emocionais, reforçando o papel da inteligência artificial como aliada na prevenção de situações de risco. A funcionalidade também oferece sigilo, já que as notificações enviadas ao contato não revelam detalhes das conversas.
Nas próximas seções, entenda como o Trusted Contact funciona, qual o contexto dos recentes problemas e quais são as limitações atuais da ferramenta, conforme informação divulgada pelo techcrunch.
Como funciona o Trusted Contact do ChatGPT
O Trusted Contact é um recurso opcional, que usuários adultos podem ativar em suas contas do ChatGPT. Ele permite que o usuário escolha um amigo ou familiar para ser notificado se a inteligência artificial identificar referências a autoagressão nas interações.
Nessas ocasiões, o ChatGPT incentiva o usuário a procurar esse contato e, simultaneamente, envia uma notificação automática para essa pessoa de confiança. A mensagem é breve e orienta o contato a verificar o bem-estar do usuário, preservando a privacidade, já que não divulga informações específicas do diálogo.
Contexto e desafios enfrentados pela OpenAI
Nos últimos tempos, a OpenAI enfrentou diversas ações judiciais de familiares de pessoas que cometeram suicídio após interagir com seu chatbot. As famílias apontam, em alguns casos, que o ChatGPT teria encorajado ou ajudado no planejamento da ação.
Para lidar com conteúdo sensível, a empresa combina automação com revisão humana. Quando palavras-chave relacionadas a pensamentos suicidas são detectadas, o sistema avisa uma equipe interna, que revisa o caso com agilidade, geralmente em menos de uma hora.
Quando o risco é considerado sério, a ferramenta ativa o Trusted Contact para agir de forma preventiva. Além disso, desde setembro, pais podem configurar controle nas contas dos adolescentes, recebendo alertas se seus filhos estiverem em perigo.
Limitações e próximos passos da OpenAI
Apesar do avanço, o Trusted Contact é opcional e não impede o uso de múltiplas contas, o que pode reduzir sua eficiência. Os controles parentais possuem limitações semelhantes, pois também dependem da adesão dos usuários.
A OpenAI afirma que o recurso integra um esforço maior para desenvolver sistemas de inteligência artificial que ofereçam ajuda em momentos difíceis. A empresa segue colaborando com especialistas para aprimorar respostas em situações de crise emocional.
O avanço do Trusted Contact representa uma tentativa significativa de trazer mais segurança no uso da IA, especialmente onde a saúde mental é afetada, e reforça o compromisso da OpenAI com a integridade e o bem-estar dos usuários.
Com informações de techcrunch
Aviso legal
Este conteúdo foi produzido com o apoio de ferramentas de Inteligência Artificial, sendo posteriormente revisado, validado e aprimorado por Lc Palauro . Em conformidade com os critérios definidos em nossa Política Editorial , garantindo precisão, clareza e confiabilidade nas informações apresentadas.
