ChatGPT notificará pais quando detectar que adolescente está em "sofrimento agudo"

A OpenAI anunciou novos controles parentais que permitirão que pais recebam alertas quando o sistema identificar que seus filhos adolescentes estão em momentos de "sofrimento agudo". A medida surge após um casal da Califórnia processar a empresa alegando que o chatbot incentivou o suicídio de seu filho de 16 anos.

As novas funcionalidades, que serão implementadas em um mês, incluem:

• Vinculação da conta dos pais com a do adolescente
• Controle para desativar funções como memória e histórico de conversas
• Notificações automáticas em situações de distress detectadas pelo sistema

A OpenAI afirmou que está trabalhando com especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador para desenvolver o sistema de detecção. A empresa reconheceu que "houve momentos em que nossos sistemas não se comportaram como pretendido em situações sensíveis".

Este anúncio faz parte de um movimento mais amplo das grandes empresas de tecnologia para aumentar a segurança online de menores, impulsionado por nova legislação como a Lei de Segurança Online do Reino Unido. Recentemente, a Meta também anunciou medidas para impedir que seus chatbots discutam temas como suicídio e automutilação com adolescentes.