ChatGPT为青少年用户引入更严格的保护措施

昨天 09:15

OpenAI正在推出一个专门为青少年设计的新版本ChatGPT，以提供更受控制和注重安全的体验。该公司表示，此举旨在识别可能未满18岁的用户，并自动对其账户应用额外保护。

这一新体验被称为青少年版ChatGPT，结合了教育功能和更强的保护措施，旨在减少年轻用户与人工智能互动所带来的潜在风险。

OpenAI表示，青少年无需创建单独的账户。当系统判断用户可能未满18岁，或用户提供表明其为未成年人的信息时，青少年专用体验可以成为默认设置。

教育是新方法的主要元素之一。该公司鼓励年轻用户更充分地利用学习模式，这一功能旨在引导学生解决问题，而不仅仅是提供即时答案。

该学习系统采用逐步的方法，可以鼓励用户深入思考问题并发展自己的理解。OpenAI还扩展了其教育工具可用的视觉材料，使概念可以通过图表和其他生成资源进行解释。

另一项名为学习时间的功能旨在帮助青少年在一天中特定的时间段内专注于学业。用户可以自行设定这些时间段，而与之关联的家长账户也可以选择合适的时间表。

在指定的学习时间内，学习模式可以自动激活。系统还可能鼓励年轻用户在他们的对话表明他们试图避免完成作业时使用教育模式。

除了教育之外，安全保护也在不断加强。OpenAI表示，青少年体验将对聊天机器人与年轻用户之间的情感互动施加更明确的限制。

根据新方法，ChatGPT应避免表现得像人类朋友，暗示自己有个人情感或声称拥有意识。该公司还引入了更频繁的提醒，鼓励青少年休息，并提醒他们正在与人工智能系统互动。

青少年及其父母还可以设定安静时间段，在此期间ChatGPT将不可用。OpenAI表示，为年轻用户设计的自定义选项旨在保持使用AI工具与发展类似人际关系的互动之间的明确区别。

家长通知是扩展安全策略的另一个组成部分。OpenAI表示，与青少年账户连接的家长可能会在对话表明存在严重风险时收到警报，包括涉及暴力威胁或饮食失调的某些情况。

根据该公司的说法，被识别为潜在严重的对话将在发送通知给家长之前由受过培训的工作人员进行审核。警报可以通过短信、电子邮件和应用程序发送，OpenAI旨在在识别到令人担忧的互动后相对较短的时间内通知家长。

然而，该系统面临一个重要挑战：准确确定用户的年龄。没有任何年龄估计技术是完全可靠的，青少年可能会通过提供不准确的信息或找到技术手段绕过安全措施来规避限制。

OpenAI承认，保护年轻用户是一个持续的过程，新系统将需要不断的发展。该公司表示，它希望青少年能够利用人工智能进行教育和其他合法目的，同时减少与不当或过度依赖使用相关的风险。

青少年版ChatGPT的推出代表了科技行业在为使用生成性人工智能的未成年人建立更强保护措施方面的又一步。随着AI助手越来越多地融入教育和日常生活，关于年龄验证、家长监督、情感界限和数字安全的问题可能仍将是辩论的核心。

OpenAI已经开始在国际上推出青少年专用体验，并预计在接下来的几周内继续推广。

关键词：

了解更多关于我们的信息！