OpenAI 为 ChatGPT 推出自残预防功能，增强安全性
OpenAI 宣布推出一项名为“可信联系人”的全新安全功能，旨在改进 ChatGPT 在使用过程中处理与自残风险相关的敏感情况。
这项新功能允许成年用户指定一位可信联系人（例如家人或密友），如果系统在对话中检测到任何令人担忧的迹象，该联系人将收到警报。其目标是在保护用户隐私的同时加强预防。
据该公司称，当对话中出现潜在的自残迹象时，系统首先会鼓励用户自行联系这位可信联系人。如果经过分析后认为情况危急，系统会自动发送通知，提醒该联系人联系用户进行确认。
该系统结合了自动化工具和人工审核。所有被识别为敏感的对话都将由专业团队进行审核，评估风险等级，之后才会触发警报。OpenAI 表示，其目标是快速处理这些报告，以确保对潜在的严重情况做出迅速反应。
该公司还特别指出，为了保护用户隐私，发送的通知经过精心筛选，不包含任何对话细节。
这项功能的推出正值人工智能平台责任日益受到关注之际。OpenAI 目前面临多起诉讼，一些家庭指控某些聊天机器人加剧了脆弱的心理状况。
这项新措施与该公司已实施的安全策略相一致，包括家长控制功能和自动警报，这些警报会在检测到敏感对话时鼓励用户寻求专业帮助。
OpenAI 强调，“信任联系人”功能完全是可选的。该公司表示，其致力于在风险预防、个人数据保护和持续改进人工智能相关安全工具之间寻求平衡。
-
10:55
-
10:25
-
09:59
-
09:47
-
09:20
-
09:20
-
09:05
-
08:50
-
23:32
-
23:15
-
23:00
-
22:51
-
22:50
-
22:45
-
22:42
-
22:39
-
22:22
-
22:00
-
21:43
-
21:42
-
21:30
-
21:23
-
21:16
-
20:55
-
20:25
-
20:20
-
20:00
-
19:30
-
19:19
-
19:17
-
19:05
-
18:50
-
18:32
-
18:15
-
17:46
-
17:29
-
17:23
-
17:00
-
16:30
-
16:15
-
16:00
-
15:32
-
15:20
-
15:15
-
15:09
-
15:04
-
14:55
-
14:50
-
14:35
-
14:32
-
14:14
-
13:50
-
13:30
-
13:30
-
13:13
-
12:47
-
12:38
-
12:30
-
12:12
-
11:47
-
11:46
-
11:32
-
11:15
