OpenAI 为 ChatGPT 推出自残预防功能，增强安全性
OpenAI 宣布推出一项名为“可信联系人”的全新安全功能，旨在改进 ChatGPT 在使用过程中处理与自残风险相关的敏感情况。
这项新功能允许成年用户指定一位可信联系人（例如家人或密友），如果系统在对话中检测到任何令人担忧的迹象，该联系人将收到警报。其目标是在保护用户隐私的同时加强预防。
据该公司称，当对话中出现潜在的自残迹象时，系统首先会鼓励用户自行联系这位可信联系人。如果经过分析后认为情况危急，系统会自动发送通知，提醒该联系人联系用户进行确认。
该系统结合了自动化工具和人工审核。所有被识别为敏感的对话都将由专业团队进行审核，评估风险等级，之后才会触发警报。OpenAI 表示，其目标是快速处理这些报告，以确保对潜在的严重情况做出迅速反应。
该公司还特别指出，为了保护用户隐私，发送的通知经过精心筛选，不包含任何对话细节。
这项功能的推出正值人工智能平台责任日益受到关注之际。OpenAI 目前面临多起诉讼，一些家庭指控某些聊天机器人加剧了脆弱的心理状况。
这项新措施与该公司已实施的安全策略相一致，包括家长控制功能和自动警报，这些警报会在检测到敏感对话时鼓励用户寻求专业帮助。
OpenAI 强调，“信任联系人”功能完全是可选的。该公司表示，其致力于在风险预防、个人数据保护和持续改进人工智能相关安全工具之间寻求平衡。
-
16:22
-
16:12
-
16:03
-
15:59
-
15:29
-
15:00
-
14:58
-
14:44
-
14:38
-
14:23
-
14:20
-
14:15
-
14:08
-
13:56
-
13:40
-
13:35
-
13:33
-
13:31
-
13:20
-
13:20
-
13:11
-
12:59
-
12:30
-
12:15
-
11:51
-
11:30
-
11:27
-
11:25
-
11:23
-
11:17
-
11:15
-
11:11
-
10:54
-
10:48
-
10:38
-
10:35
-
10:35
-
10:19
-
09:52
-
09:51
-
09:46
-
09:36
-
09:31
-
09:29
-
09:09
-
08:58
-
08:56
-
08:53
-
08:49
-
08:45
-
08:41
-
08:41
-
08:38
-
08:37
-
08:31
-
08:27
-
08:23
-
08:22
-
08:20
-
08:02
-
08:00
-
19:15
-
18:51
-
18:34
-
18:18
-
17:56
-
17:35
-
17:17
-
17:17
-
16:54
-
16:51
