每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！ 订阅：https://rengongzhineng.io/

Meta 最近调整了其关于人工智能生成内容和经过操纵的媒体的规则，这是在其监督委员会的批评之后作出的决定。从下个月开始，Meta将对更广泛的此类内容进行标记，包括在深度伪造内容上加贴“由AI制作”的标签。当内容以其他可能对重要问题误导公众的方式被操纵时，还可能显示额外的上下文信息。

这一举措可能导致这家社交网络巨头标记更多可能具有误导性的内容——这在全球多地进行选举的一年里尤为重要。然而，对于深度伪造内容，Meta只会在内容具有“行业标准的AI图像指示”或上传者已声明内容是AI生成的情况下才加标签。

不符合这些条件的AI生成内容可能会未经标记地发布。

这一政策变动也可能导致更多的AI生成内容和操纵媒体留在Meta的平台上，因为Meta正转向更注重“提供透明度和额外上下文”的方法来处理这些内容，这被视为一种比移除操纵媒体（考虑到与之相关的言论自由风险）更好的处理方式。

因此，对于Meta平台如Facebook和Instagram上的AI生成或其他方式操纵的媒体，基本策略似乎是：增加标签，减少下架。

Meta表示，从七月开始，将不再仅仅因为当前的操纵视频政策就移除内容，在周五发布的博客文章中补充说：“这一时间表给人们时间了解自我披露过程，在我们停止移除少量操纵媒体之前。”

这种方法的改变可能是为了应对对Meta内容审核和系统风险的日益增长的法律要求，例如欧盟的数字服务法案。自去年八月以来，该法律已对其两个主要社交网络施加了一系列规则，要求Meta在清除非法内容、减少系统风险和保护言论自由之间找到平衡。欧盟还在增加对平台的压力，敦促科技巨头在技术上可行的情况下为深度伪造内容加水印，特别是在即将到来的六月的欧洲议会选举之前。

即将到来的美国总统选举在十一月也可能是Meta考虑的因素之一。

Meta的咨询委员会，这个由科技巨头资助但允许独立运作的机构，虽然只审查了极少数的内容审核决定，但也可以提出政策建议。Meta并不一定接受委员会的建议，但在这种情况下，它已同意修改其方法。

在周五发布的博客文章中，Meta内容政策副总裁Monika Bickert表示，公司根据委员会的反馈修改了关于AI生成内容和操纵媒体的政策。她写道：“我们同意监督委员会的观点，认为我们现有的方法过于狭窄，因为它只涵盖通过AI创建或修改的视频，使人似乎说了他们未曾说过的话。”

今年早些时候，Meta宣布正在与行业中的其他公司合作，开发用于识别AI内容的共同技术标准，包括视频和音频。它依靠这一努力现在扩大合成媒体的标记。

Bickert指出：“我们在AI生成的视频、音频和图像上的‘由AI制作’标签将基于我们对AI图像的行业共享信号的检测，或人们自我披露他们正在上传AI生成内容。”

这项扩展政策将覆盖“除了监督委员会建议标记的操纵内容之外的更广泛内容范围”，据Bickert说。

她写道：“如果我们确定数字创建或修改的图像、视频或音频在重要问题上具有特别高的误导公众的风险，我们可能会添加更显眼的标签，以便人们获得更多信息和上下文。” “这种总体方法为人们提供了更多关于内容的信息，以便他们能更好地评估内容，并在他们在其他地方看到相同内容时提供上下文。”

Meta表示，除非操纵内容违反其他政策（如选民干预、欺凌和骚扰、暴力和煽动或其他社区标准问题），否则不会移除操纵内容——无论是基于AI的还是其他方式操纵的。如上所述，它可能会在某些公众高度关注的情景中添加“信息标签和上下文”。

Meta的博客文章强调了其所说的与近100个独立事实核查者的网络合作，这些核查者将帮助识别与操纵内容相关的风险。

这些外部实体将继续审查错误和误导性的AI生成内容，据Meta说。当他们将内容评为“虚假或修改”时，Meta表示将通过应用算法更改来回应，这些更改将减少内容的传播——意味着这些内容在Feed中的位置会更低，从而

减少人们看到它的机会，除此之外，Meta还会在那些最终看到内容的人的界面上添加额外信息的覆盖标签。

随着合成内容的激增，这些第三方事实核查者的工作量似乎将增加，这主要是由生成AI工具的繁荣驱动的。而且因为这种政策转变，更多这样的内容似乎将保留在Meta的平台上。