Snapchat 正在更新其 Spotlight 算法，以取消完全由人工智能制作的视频的优先级，旨在使其公共信息流集中在人类创建的内容上。虽然该公司正在限制自动化内容，但将继续允许使用人工智能工具来增强创意和增强现实效果。
政策转变成为焦点
Snapchat 已正式宣布在其 Spotlight 部分（该平台短视频发现的中心枢纽）内处理生成式人工智能的关键。根据新的指导方针，该公司的推荐算法将主动抑制完全由人工智能工具创建的视频。即使创作者正确披露人工智能的使用，这些剪辑也将不再在公共信息流中推广。 Snap 强调，其主要目标是确保 Spotlight 仍然是真实的、以人为本的创造力的目的地。通过取消来自 Snapchat 创意生态系统之外的材料的优先级，该公司希望遏制数字领域中日益普遍的重复和低质量媒体的影响。这一变化是针对自动化内容快速扩散的一项重要防御措施，Snap 认为自动化内容对其面向用户的发现工具的质量和可靠性构成潜在威胁。
区分增强与自动化
尽管有新的限制，但 Snap 已澄清，它不会全面禁止人工智能技术。该平台仍然致力于为用户提供利用人工智能的创意工具，特别是增强现实效果和复杂的图像编辑。只要这些工具用于增强或改进人造作品，生成的视频仍然有资格包含在 Spotlight 中。 Snapchat 打算保持明确的界限：使用该公司内置人工智能工具的内容将继续清晰地标有水印，而被视为“完全人工智能生成”（通常被描述为“AI slop”）的内容将失去推荐资格。通过划定这条界限，Snap 旨在保护其生态系统免受省力、批量生产的剪辑涌入的影响，同时仍为技术创新和数字艺术表达创造空间。
全行业的打击
Snapchat 的最新政策转变符合主要数字平台更广泛的行业趋势，这些平台试图在生成人工智能输出激增的情况下保持信息流的完整性。其他科技公司也在同时应对类似的挑战。例如，LinkedIn 已开始解决自动化活动问题，引入了报告工具，供用户标记人工智能生成的内容，并报告称近几个月阻止了数十亿次自动评论尝试。与此同时，Substack 推出了检测功能，帮助读者识别人工智能撰写的文章，理由是担心现在多达 40% 的社交媒体文本可能是人工生成的。 YouTube 还加大了审核力度，对严重依赖人工智能自动化的通用、重复或基于模板的视频进行分类和限制其盈利。这些全行业的措施表明，人们集体认识到，从长远来看，未经过滤的人工智能内容可能会降低平台价值并损害用户信任。
寻找真实性
用户不满的轶事证据和有关受众如何与人工媒体互动的实证研究推动了缓解“人工智能失范”的努力。根据行业报告，随着人工智能生成材料数量的增长，用户对在线内容越来越持怀疑态度。正如 Substack 首席执行官 Chris Best 所描述的，这种“逐底竞争”创造了一种环境，在这种环境中，合法的人类贡献被高频、算法友好但本质上是虚假的媒体淹没了。通过采取行动，平台发出信号：算法推荐系统必须优先考虑人与人之间的联系，以保持相关性。人们普遍担心，如果社交媒体源继续充斥着合成内容，对数字真实性的整体认知将会崩溃，使用户难以区分真正的创意努力和主要为收入提取或算法利用而设计的自动化内容农业。
⚖ The Balanced View
Supporting view
包括 Snap 和 LinkedIn 等平台在内的支持者认为，过滤“人工智能溢出物”对于优先考虑高质量、以人为本的创造力并防止对在线信息流的信任受到侵蚀至关重要。
Concerns & criticism
人们担心，人工智能生成的内容过度扩散会造成“逐底竞争”，不限制此类实质性内容的平台可能会被低质量、重复性和欺骗性内容淹没。
→What's next
平台运营商预计将继续完善其检测机制，以更好地区分有用的人工智能辅助内容和重复的批量生产媒体。未来的发展可能涉及更细粒度的行业标准，用于在整个社会生态系统中对人工智能生成的资产进行水印和标签。