OpenAI加强青少年用户的ChatGPT安全措施

17:17

OpenAI正在扩大其针对青少年使用ChatGPT的安全措施，旨在提供更适合年龄的体验，同时让年轻用户能够利用人工智能进行学习、创造和日常任务。

该公司的方法越来越依赖于年龄预测技术，旨在确定一个账户是否可能属于18岁以下的人。当系统识别到可能的青少年用户时，ChatGPT可以自动应用额外的保护措施，即使在注册时提供的年龄信息表明情况相反。

增强的保护旨在减少青少年接触敏感或潜在不当材料的机会。这些包括图形暴力、风险在线挑战、性或暴力角色扮演、自残相关内容以及促进极端美丽标准、不健康饮食或身体羞辱的材料。

OpenAI表示，目标不是阻止青少年使用ChatGPT，而是将服务调整到他们的年龄和发展需求。该公司强调了人工智能在教育和生产力中的作用，并指出许多年轻用户已经依赖这项技术进行学习、信息获取和技能发展。

年龄检测系统评估账户和使用信号的组合，包括活动模式、账户存在的时间以及用户声明的年龄。当系统不确定时，OpenAI表示可能会优先考虑更具保护性的18岁以下体验。被错误分类的成年人可以验证其年龄以移除额外的青少年保护。

该公司还开发了家长控制功能，允许与青少年账户关联的父母或监护人管理ChatGPT体验的某些方面。这些控制功能可以包括安静时间、特定模型设置和安全通知等功能。

OpenAI的举措反映了关于未成年人应如何使用生成性人工智能的更广泛辩论。随着人工智能工具越来越多地融入教育、沟通和娱乐，科技公司面临着越来越大的压力，以区分成人和青少年的体验，同时保护年轻用户免受不当互动。

该公司之前已为13至17岁的用户建立了特定原则，强调预防、透明和支持现实世界关系。这些原则旨在确保ChatGPT对待青少年用户的方式与成年人不同，同时避免对年轻用户的居高临下的态度。

ChatGPT不适用于13岁以下的儿童，而13至18岁的用户则需遵守额外的要求和保护。OpenAI继续完善其年龄预测系统，随着技术的发展，承认没有任何自动化系统能够完全准确地确定年龄。

最新措施强调了安全性和适合年龄的设计在人工智能被年轻一代广泛使用时日益重要。对于OpenAI来说，挑战在于在为可能更容易受到有害或不当内容影响的用户提供更强保护的同时，平衡对教育和创造性人工智能工具的访问。

关键词：

了解更多关于我们的信息！