Meta 的监督委员会将审查 Facebook 不删除一段操纵拜登总统视频的决定，该委员会希望推动 Meta 澄清其有关选举深度伪造的政策。
今年 5 月，脸书上出现了一段乔-拜登总统的篡改视频。原始视频显示，拜登在 2022 年中期选举期间，将 “我投了票 “的贴纸贴在孙女的胸前，并亲吻了她的脸颊。被篡改的版本循环播放了这段视频，让人觉得他在反复抚摸女孩，并配上标题，称他为 “恋童癖”。
Meta 公司将这段视频保留了下来。今天，该公司的监督委员会（一个负责审查平台内容审核的独立机构）宣布，它将审查这一决定，试图推动 Meta 在 2024 年美国总统大选和明年全球举行的其他 50 多场投票之前，解决如何处理被操纵的媒体和选举虚假信息的问题。
“监督委员会发言人丹-柴森（Dan Chaison）说：”选举是民主的基础，平台必须具备保护这一过程完整性的能力。”鉴于人工智能的进步，探索 Meta 如何更好地处理被篡改的内容，包括在选举前欺骗公众的视频，显得更加重要。”
Meta 在一篇博文中表示，它已确定该视频没有违反 Facebook 的仇恨言论、骚扰或操纵媒体政策。根据操纵媒体政策，Meta 表示，如果视频 “被剪辑或合成……普通人看不出，并可能误导普通人相信视频中的主体说了他们没有说过的话”，它将删除该视频。梅塔指出，拜登的视频并没有使用人工智能或机器学习来篡改画面。
专家们几个月来一直警告说，由于生成式人工智能可以更逼真地伪造音频、视频和图像，2024 年的选举将变得更加复杂和危险。尽管 Meta 公司与其他科技公司一起致力于遏制生成式人工智能的危害，但事实证明，大多数常见的策略，如为内容添加水印，充其量也只能起到一定的效果。上周在斯洛伐克，Facebook 上流传着一段虚假录音，其中该国一位主要政客似乎在讨论操纵选举的问题。制作者利用了 Meta 操纵媒体政策中的一个漏洞，该政策并不涵盖伪造音频。
虽然拜登视频本身并不是人工智能生成或操纵的，但监督委员会已经征求了公众对这一案例的意见，并将其作为一种方式，更深入地检查 Meta 围绕操纵视频的政策。
非营利组织 “见证”（Witness）的项目总监萨姆-格雷戈里（Sam Gregory）说：”我认为，如果我们从广义上看待正在分享的内容，它仍然是被错误语境化、被错误编辑的媒体，因此政策需要反映出他们将如何处理这种情况，””见证 “帮助人们利用技术促进人权。
监督委员会可以发布具有约束力的决定和建议，Meta 可以选择是否采纳。监督委员会曾试图处理一些案例，希望这些案例能帮助公司制定 2024 年选举年的方针。监督委员会曾审查过 Meta 在柬埔寨大选前不删除时任首相洪森号召暴力的决定，以及在巴西大选后叛乱前不删除巴西将军的演讲。
但格雷戈里也担心，即使董事会就 Meta 应如何处理受操纵媒体的问题做出了具有约束力的决定，但它却没有什么权力来决定公司究竟选择投入多少资金或资源来解决这个问题，尤其是在美国以外的选举中。与其他许多大型科技公司一样，Meta 也裁掉了负责处理虚假信息和仇恨言论等问题的信任与安全部员工。Meta 在审核非英语内容和美国以外的内容方面也一直很吃力。
与谷歌不同的是，谷歌推出了一些功能来帮助用户弄清图片是人工智能生成的还是被篡改的，而 Meta 却没有创建任何面向消费者的工具，让用户或事实核查人员更好地了解他们可能看到的内容的背景。
虽然监督委员会可能希望利用拜登的视频为 Meta 如何处理人工智能生成或人工智能操纵的内容奠定基础，但格雷戈里说，他预计围绕被操纵媒体的许多问题可能仍然没有答案。
