Substack推出新工具识别AI生成内容

07:32

Substack推出了一项新功能，旨在帮助读者判断在线文章和帖子是由人类撰写还是借助人工智能生成的。

该出版平台与专注于AI生成文本检测的公司Pangram合作开发了这一新系统。该工具允许用户分析文章、帖子、评论和回复，以评估内容是由AI系统生成的可能性。

根据Substack的说法，这项倡议是更广泛努力的一部分，旨在提高透明度并应对互联网上日益增长的自动化内容。该平台的首席执行官表示，公司特别关注用AI创建但以完全人类制作的形式呈现给读者的内容。

该检测系统目前可用于包含超过100个单词的文本，这些文本自7月21日起发布。结果仅显示给请求分析的人，而不是自动显示给其他读者。

该公司承认AI检测技术并不完美，有时可能会产生不准确的结果。然而，它表示Pangram的系统在独立测试中表现出较高的准确性。

该功能目前可通过Substack的网络平台和iOS应用程序使用，预计稍后将支持Android设备。

这些新工具也旨在帮助作者。作者可以在发布作品之前使用检测系统查看他们的内容是如何被分类的。Substack还推出了一个名为“我是如何做到的”的部分，允许作者解释他们如何创作作品，以及在过程中是否使用了AI工具。

如果作者认为AI检测结果不正确，平台提供了报告结果并请求重新审查分类的选项。

Substack还在考虑其他措施，以便让作者更好地控制AI在评论和回复中的使用。该公司表示，它可能还会为读者提供更大的控制权，以选择推荐给他们的内容类型。

此举是在AI生成材料在数字平台上变得越来越普遍的背景下进行的。行业估计表明，在线帖子中可能有相当一部分是完全或部分借助生成性AI创建的。

Substack并不是唯一一个试图解决这一问题的公司。其他主要科技和社交媒体公司也在探索识别和限制低质量自动化内容的方法，同时致力于开发能够区分人类和机器生成材料的系统。

然而，AI检测的有效性仍然是一个争论的话题。随着生成性AI模型变得越来越复杂，能够生成自然听起来的文本，检测系统将面临与快速发展的技术保持同步的挑战。

关键词：

了解更多关于我们的信息！