情报峰会获悉，恐怖组织或敌对国家可能试图利用人工智能制造炸弹或破坏选举。
英国军情五处（MI5）和美国联邦调查局（FBI）负责人表示，恐怖分子或敌对国家可能会利用人工智能制造炸弹、进行宣传或破坏选举。
军情五处处长肯-麦卡勒姆（Ken McCallum）和联邦调查局局长克里斯托弗-雷（Christopher Wray）表示，他们的组织正在监测事态发展，并需要与私营部门的专家合作应对新出现的威胁。
军情五处处长说，虽然人工智能开发人员采取了保障措施，防止人们利用软件询问如何制造炸弹，但仍存在 “越狱 “这些控制措施的风险。
麦卡勒姆说：”如果你有丰富的安全经验，那么依靠这些控制措施来保持坚不可摧的状态是不明智的。因此，这些系统中的一些系统显然有可能被利用，被用于它们的制造商并不打算使用的用途。”
雷说，恐怖组织试图利用 “人工智能来规避一些人工智能基础设施中内置的保障措施”，以 “搜索，你知道，如何制造炸弹……或混淆他们搜索如何制造炸弹的方法”。
韦雷补充说，”这并不是敌对行为者试图利用人工智能的唯一例子。我们已经看到人工智能基本上被用来扩大恐怖主义宣传的分发或传播，”利用翻译工具使其” 对潜在支持者来说更连贯、更可信”。
雷和麦卡勒姆周二在加利福尼亚州斯坦福大学与澳大利亚、加拿大和新西兰国内情报机构负责人举行的 “五眼” 情报峰会上发言。
麦卡勒姆说，他相信与人工智能有关的一些安全风险将在 11 月初举行的 Rishi Sunak 全球人工智能峰会上得到讨论，而且该行业对这一话题很敏感。
军情五处处长补充说：”这是一个没有人能够垄断智慧的问题，我们正试图建立一种不同形式的公私伙伴关系，关键是国际伙伴关系。”
这两个机构的负责人都表示，在美国和英国即将举行的大选前夕，他们正在监测由人工智能生成的、由俄罗斯等敌对国家进行的复杂的政治干预活动。
雷说：”使用人工智能的方式，如果它足够复杂，能够创造出潜在的深度伪造，那就会增加我们以前从未遇到过的威胁程度。”他补充说，鉴于 “敌对国家的现有战略可能变得更加危险”，这是一种 “我们正在警惕的威胁”。
今年，新闻调查网站 Bellingcat 的艾略特-希金斯（Eliot Higgins）利用人工智能照片生成软件生成了唐纳德-特朗普被捕的伪造图片，显示了该技术的潜力。
本月，工党领袖基尔-斯塔默（Keir Starmer）在利物浦举行的工党大会开始时，在网上发布了一段声称是工党领袖基尔-斯塔默（Keir Starmer）训斥其员工的伪造音频。专家称，这可能是人工智能软件根据他的演讲音频生成的。
麦卡勒姆说，监测虚假信息不是军情五处的主要工作，但它对试图操纵英国舆论的敌对国家保持警惕，并表示分析人员正在保持观察。
军情五处处长说：”因此，我不想做出某种强烈的预测，说这将在即将举行的大选中出现，但如果我们不真正考虑这种可能性，我们就没有做好我们的工作。”
早些时候在加利福尼亚举行的会议上，有人警告说，以色列和加沙的战争可能导致恐怖威胁上升。
