ChatGPT 推出可信联系人功能,为用户心理健康保驾护航

近日,OpenAI 为 ChatGPT 推出了一项名为“可信联系人”的新功能,此举专注于保护用户心理健康。该功能旨在帮助那些在对话中透露可能存在自残、自杀倾向的用户,通过提醒与引导,让他们获得更多的社会支持。

功能设计与工作原理

“可信联系人”功能利用自动审核与人工复核相结合的方式。当 ChatGPT 检测到用户对话中可能存在心理健康风险的相关内容时,会触发内部提醒系统。提醒信息会被传递给 OpenAI 专门的人工安全团队,由人工人员进行进一步审查。

在人工复核的过程中,如果判断用户确实存在严重的自残或自杀风险,系统会向用户预设的可信联系人发送电子邮件、短信或推送通知。通知的内容精简但明确,旨在鼓励相关联系人主动与用户沟通。有了这份友情提醒,可信联系人可以通过沟通和陪伴,为当事人提供及时的支持。

隐私保护是重点

为了最大程度保障用户隐私,“可信联系人”功能不会向联系人透露具体对话的内容,也不会分享用户的详细信息。通知中仅会提醒可信联系人其朋友或亲人正在经历情绪低谷,建议进行主动关心。这种方式既尊重用户的隐私,又确保提供必要的支持,缓解可能的发展风险。

响应效率的快速提升

OpenAI 表示,这一系统在响应速度上也兼顾效率和可靠性。通常情况下,人工审核的流程力求在一小时内完成。如此快速的响应机制,可以在危急情况下为用户提供及时的帮助。

可信联系人功能的意义

心理健康问题近年来越来越受到公众关注。OpenAI 推出的这项功能,不仅表明了技术公司在关注用户心理层面的诚意,也让人工智能在解决社会问题方面发挥了更大的正面价值。

通过与可信联系人联动功能,ChatGPT 不再仅是一种对话工具,更作为一种心理支持工具,温暖那些面临挑战的用户。这也进一步证明了人工智能技术在构建更和谐社会中所能够起到的积极作用。

结语

ChatGPT 的“可信联系人”功能无疑是 AI 技术迈出的重要一步,为用户心理健康提供了一道安全防线。随着 OpenAI 不断优化技术与服务,人们有理由相信,AI 能为社会难题带来更多温暖的解决方案。

文章评论

登录后才能发布评论哦
立即登录/注册
消息提醒
Hello, world! This is a toast message.