英国事实核查人员正在争分夺秒地揭穿英国反对党领袖基尔-斯塔默（Keir Starmer）的一段可疑录音。
当英国最大的反对党成员聚集在利物浦参加他们的党代会–这可能是英国大选前的最后一次党代会–一个可能具有爆炸性的音频文件开始在 X（前身为 Twitter）上流传。
这段 25 秒的录音由一个名为”@Leo_Hutz “的 X 账户发布，该账户成立于 2023 年 1 月。在这段视频中，工党领袖基尔-斯塔默爵士（Sir Keir Starmer）显然听到了他对一名工作人员反复说脏话。”我获得了基尔-斯塔默（Keir Starmer）在（工党）会议上辱骂其工作人员的音频，”X 账户发布道。”这个令人作呕的恶霸即将成为我们的下一任首相。
目前还不清楚这段录音是真实的、人工智能生成的，还是用冒名顶替者录制的。英国事实核查组织 Full Fact 表示仍在调查中。”就我们现在讨论的情况来看，还不能确定是真是假。但它的一些特征表明它是假的，”Full Fact 的宣传和政策负责人格伦-塔尔曼（Glen Tarman）说。”有一句话似乎是重复的，而不是在第二次使用时[使用]不同的语调，背景噪音中也有一些小毛病。
随着英国和其他 50 多个国家迈向 2024 年大选，音频造假正成为民主进程的一大风险。操纵音频内容正变得越来越便宜和容易，而事实核查人员表示，很难快速、明确地识别录音是否为伪造。这些录音在被揭穿之前，可能会在社交媒体上流传数小时或数天，研究人员担心，这种深度伪造的内容可能会造成一种政治氛围，让选民不知道哪些信息可以信任。
谢菲尔德大学数字政治学教授凯特-多米特（Kate Dommett）说：”如果你在网上收听一段声音或视频时，对其是否真实存有怀疑，这有可能会破坏辩论的基础和人们获取信息的能力。”
“X’s操纵媒体政策规定，经过欺骗性修改或操纵的视频或音频应被标记或删除。对于《WIRED》关于该平台是否已调查录音真实性的置评请求，X 并未回复。
斯塔默的团队尚未发表评论。但执政党保守党的几位议员称这段录音是深度伪造的。”另一位保守党议员马特-沃曼（Matt Warman）发帖称：”基尔-斯塔默的录音是假的，”议员汤姆-图根哈特（Tom Tugendhat）在X上说，”在过去30年的公共生活中，人们对机构的信任遭到了灾难性的破坏，不管是出于好的还是坏的原因。”但今天基尔-斯塔默爵士的假新闻在人工智能和社交媒体的推动下达到了新的低点。民主正受到真正的威胁–核实内容的技术至关重要”。
这起事件发生在斯洛伐克竞选活动最后几个小时的丑闻一周之前，当时脸书上发布了一段录音，似乎显示反对党斯洛伐克进步党领导人在谈论他操纵选举的计划。米哈尔-希梅奇卡（Michal Šimečka）谴责这段录音是假的，法新社的事实核查部门称这段录音有被篡改的迹象。当时，事实核查人员表示，他们认为自己没有能力明确推翻人工智能生成的录音。
世界各国都在努力研究如何应对被认为是伪造的录音。所谓的深度伪造录音在苏丹和印度都引起了混乱。在苏丹，已一年未公开露面的前领导人奥马尔-巴希尔的 “泄露录音” 被怀疑是被篡改的。在印度，反对党政治家帕拉尼维尔-蒂亚加拉詹（Palanivel Thiagarajan）涉嫌指控其党内同僚腐败的录音被公开。Thiagarajan 说录音是机器生成的。
专注于技术研究的人权组织 “见证”（Witness）的执行董事萨姆-格雷戈里（Sam Gregory）说，由于检测工具并不普及，容易生成深度伪造媒体的问题变得更加复杂。”在人工智能生成的深度伪造音频中添加水印或来源信号并没有共同的标准，只有个别公司在努力。如果有一个工具可以识别内容是否由一家公司生成，而同样的工具会对市场上许多其他工具生成的假音频给出错误的否定，那么这个工具是没有用的。”
格雷戈里补充说，无法明确证明录音的真伪增加了阴暗面，这也会被真实音频中的政客所利用。”政客们会声称真实音频是伪造的，并向事实核查人员施压，要求他们推翻这一说法，而他们缺乏这样做的工具或快速能力。”
