中国拟对情感互动人工智能服务制定更严格的规则

昨天 15:30

中国网络监管机构周六发布了征求意见稿，旨在加强对模拟人类人格并与用户进行情感互动的人工智能服务的监管。

此举凸显了北京方面致力于通过加强安全和伦理要求来规范面向消费者的人工智能快速推广。

拟议规则将适用于在中国向公众提供的、能够模拟人类人格特征、思维模式和沟通方式，并通过文本、图像、音频、视频或其他方式与用户进行情感互动的人工智能产品和服务。

该草案提出了一种监管方法，要求服务提供商警告用户避免过度使用，并在用户出现成瘾迹象时进行干预。

根据该提案，服务提供商将被要求在产品生命周期内承担安全责任，并建立算法审查、数据安全和个人信息保护体系。

该草案还关注潜在的心理风险。服务提供商应识别用户状态，评估用户情绪及其对服务的依赖程度。如果发现用户表现出极端情绪或成瘾行为，服务提供商应采取必要措施进行干预。

这些措施设定了内容和行为的底线，规定服务不得生成危害国家安全、散布谣言或宣扬暴力或淫秽的内容。

关键词：

最新新闻