OpenAI 为 ChatGPT 推出自残预防功能，增强安全性
OpenAI 宣布推出一项名为“可信联系人”的全新安全功能，旨在改进 ChatGPT 在使用过程中处理与自残风险相关的敏感情况。
这项新功能允许成年用户指定一位可信联系人（例如家人或密友），如果系统在对话中检测到任何令人担忧的迹象，该联系人将收到警报。其目标是在保护用户隐私的同时加强预防。
据该公司称，当对话中出现潜在的自残迹象时，系统首先会鼓励用户自行联系这位可信联系人。如果经过分析后认为情况危急，系统会自动发送通知，提醒该联系人联系用户进行确认。
该系统结合了自动化工具和人工审核。所有被识别为敏感的对话都将由专业团队进行审核，评估风险等级，之后才会触发警报。OpenAI 表示，其目标是快速处理这些报告，以确保对潜在的严重情况做出迅速反应。
该公司还特别指出，为了保护用户隐私，发送的通知经过精心筛选，不包含任何对话细节。
这项功能的推出正值人工智能平台责任日益受到关注之际。OpenAI 目前面临多起诉讼，一些家庭指控某些聊天机器人加剧了脆弱的心理状况。
这项新措施与该公司已实施的安全策略相一致，包括家长控制功能和自动警报，这些警报会在检测到敏感对话时鼓励用户寻求专业帮助。
OpenAI 强调，“信任联系人”功能完全是可选的。该公司表示，其致力于在风险预防、个人数据保护和持续改进人工智能相关安全工具之间寻求平衡。
-
16:19
-
15:40
-
13:47
-
12:50
-
11:42
-
10:51
-
10:18
-
09:34
-
18:05
