英国首相苏纳克（Rishi Sunak）的全球人工智能治理峰会将重点讨论算法造成伤害的极端情况。许多英国人工智能专家更希望他把重点放在近期问题上。
英国政府在气候政策上的逆转以及对石油钻探和空气污染的承诺，通常似乎是支持启示录的。但最近，英国的高级政治家们却开始了拯救世界之旅。首相苏纳克（Rishi Sunak）、他的大臣们和外交官们一直在向他们的国际同行们介绍失控的人工超级智能所带来的生存危险，他们警告说，人工超级智能可能会制造生物武器，赋予专制者权力，破坏民主，并威胁金融体系。”副首相奥利弗-道登 9 月底在联合国表示：”我不相信我们能挡住这股浪潮。
道登的这番话本意是为英国政府定于11月1日和2日举行的全球人工智能治理峰会争取支持。这次峰会被称为 “杀手级人工智能” 幽灵的转机，是开始就降低这一风险达成国际共识的机会。对于苏纳克来说，这次峰会是一次重要的活动，他曾大肆宣扬要把英国打造成 “不仅是全球人工智能安全监管的智力家园，而且是地理家园”，以及打造 “新硅谷” 和 “科技超级大国” 的更广泛计划。但是，就在峰会开始前一周多的时间里，峰会看起来将同时充满厄运和令人失望。两位直接了解拟议讨论内容的消息人士称，峰会的旗舰倡议将是自愿性的全球大型人工智能模型登记–这基本上是一个无用的倡议。它能否全面囊括全球领先的人工智能项目，将取决于美国和中国大型科技公司的善意，而这两家公司通常意见并不一致。
峰会的其他部分进展如何？接近谈判的消息人士称，美国政府对英国邀请中国官员感到恼火（英国执政党保守党的一些成员也是如此）。与会人员名单尚未公布，但英国国内人工智能领域的主要公司和投资者对他们未被邀请感到愤怒，因为他们被排除在有关行业未来的讨论之外。他们和其他人工智能专家表示，政府将注意力集中在人工智能驱动的大灾难这一边缘问题上，这意味着此次活动将忽视该技术在现实世界中更直接的风险–以及其所有潜在的好处。
牛津大学互联网研究所（Oxford University’s Internet Institute）人工智能、政府与政策讲师基根-麦克布莱德（Keegan McBride）说：”我不知道英国在这一切中带来了什么。他们的关注点太狭窄了。” 他和英国人工智能领域的其他人士认为，在人工智能快速变革和巨额投资的当下，政府最好着眼于如何帮助英国人工智能公司参与竞争。
峰会议程显示，它将涵盖两种类型的人工智能：一种是具有狭隘但潜在危险能力的人工智能–例如可用于开发生物武器的模型；另一种是 “前沿人工智能”，这是一个有点模糊的概念，英国将其定义为巨大、多用途的人工智能，其能力可与大型语言模型（如 OpenAI 的 ChatGPT 背后的模型）相媲美，甚至超过它们。这一筛选条件自动缩小了与会者名单。”只有少数几家公司在做这件事，”麦克布赖德说。”他们几乎都是美国人或中国人，而且训练这类模型所需的基础设施基本上都归亚马逊、谷歌或微软等美国公司所有。”
WIRED 采访了十多位英国人工智能专家和高管。没有人受邀参加此次峰会。据了解，英国人工智能产业的唯一代表是谷歌 DeepMind，该公司成立于伦敦，但在 2014 年被搜索巨头收购。这让很多人感到沮丧。
“很多现代人工智能都是在英国开发的，”位于伦敦的人工智能应用开发初创公司 Builder AI 的萨钦-德夫-杜加尔（Sachin Dev Duggal）说。”一方面我们会说我们是世界人工智能中心，但另一方面我们又说我们不愿意相信我们自己的首席执行官、企业家或研究人员拥有更多的话语权。这说不通。”
达格尔说，全球大部分云计算和社交媒体基础设施都归美国公司所有，这已经让英国公司和英国监管机构处于不利地位。如果塑造行业的交易在国内企业没有任何参与的情况下达成，那么下一代科技也可能最终集中在少数几家美国巨头公司手中。他说：”我们中的一些人对此非常担忧。”
英国人工智能行业的其他人也赞同达格尔的观点，他们抱怨说，对前沿模型的痴迷忽略了 “前沿背后的一切”，一家独角兽人工智能初创公司的一位高管匿名表示，因为他们仍然希望获得峰会邀请。这位高管说，这包括每一家初创公司、每一个开发自己人工智能的学术团队，以及目前可能的每一种技术应用。前沿重点还不包括开源语言模型，这些模型中的佼佼者被认为略逊于现有的最佳模型，但任何人都可以下载和使用，或者滥用。
英国政府已承诺在人工智能相关项目上投资超过 10 亿美元，包括资助当地半导体产业的发展，在布里斯托尔新建一台超级计算机以支持人工智能研究，以及成立各种工作组和促进机构。批评人士指出，从全球范围来看，这些资金并不算多。在起步阶段就远远落后于美国和亚洲领先者的情况下，用 10 亿美元来推动芯片和人工智能产业的发展将是一项挑战。而且，这些资金并不一定流向英国公司。今年 5 月，总部位于布里斯托尔、为人工智能制造专业芯片的初创公司 Graphcore 的首席执行官要求政府将部分资金专门用于英国制造商。但这并没有发生，本月，Graphcore 警告说，它需要注入现金才能继续经营。
牛津大学的麦克布赖德说：”非常奇怪的是，政府说人工智能可以做所有这些事情，它是如此强大，简直可以终结世界。但你会期望他们也在研究如何利用人工智能的力量。世界上其他国家都会向美国和英国寻求帮助，以了解如何利用这种物质。而目前，英国并没有向世界其他国家展示太多东西。”
英国议会尚未开始就任何与欧盟《人工智能法案》规模相当的国内人工智能法规展开辩论，尽管政府已经发布了一份白皮书，建议制定一套限制较少的规则，以促进该行业的发展。但这离成为政策或法律还有很长的路要走，欧盟已经迈开了步伐。
美国智库 “未来生命研究所”（Future of Life Institute）的政策主管马克-布拉克尔（Mark Brakel）说：”英国没有对自己进行监管，这实在令人尴尬。在美国，参议院已经有了具体的监管提案。欧盟的《人工智能法案》即将成为法律。巴西正在制定自己的法规，中国也是如此。但在英国，我们什么都没有。如果你是东道主，我认为如果你能自己把一些东西摆到桌面上，那将是很有意义的。”
今年 3 月，布拉克尔所在的研究所曾发表过一封公开信，呼吁暂停人工智能的发展，这封信引起了很大反响。该研究所得到了包括 Skype 创始人贾安-塔林（Jaan Tallinn）在内的科技界领军人物的支持，一直在积极游说各国政府认真对待生存风险。不过，即使是布拉克尔，他对英国会议成果的期望也相当有限。布拉克尔说：”我认为，这是人工智能风险 101。如果离开峰会的每个人都能就什么是最重要的风险以及他们需要关注的重点达成一致，我会非常高兴。”
对于苏纳克来说，这可能还不够，因为他的政府已经花费了大量的政治资本来召集这次峰会。美国副总统卡马拉-哈里斯将出席会议。但英国也邀请了一个中国代表团，据说这激怒了美国官员，他们认为中国政府是一个战略威胁。英国媒体报道称，中国官员现在可能只被允许参加峰会的一半。欧洲官员也将出席–不过法国将在英国峰会两周后举办自己的人工智能峰会，由电信亿万富翁泽维尔-尼尔（Xavier Niel）组织。10 月 18 日，中国网络空间管理局宣布了自己的全球人工智能治理倡议。
个别国家主办的会议也面临着来自联合国和七国集团等国际论坛的竞争，这些论坛正在研究监管人工智能的多边方法。目前还不清楚英国的做法会有什么不同，也不清楚在人工智能发展的早期阶段是否有可能达成任何能够有意义地改变人工智能发展进程的国与国之间的协议。
“我完全同意（苏纳克的）策略，即尝试达成国际共识。但我的猜测是，国际共识只会围绕最广泛的原则形成，” 苏纳克所在保守党的前英国数字部长杰里米-赖特（Jeremy Wright）说，”实际上，如果你要做任何事情，你可能必须先在国内做，然后再在国际上做。”
两位了解讨论情况的消息人士证实了 Politico 本月初的报道，即苏纳克将向与会者推介人工智能安全研究所。他们说，英国政府将提议建立一个前沿模型登记册，让政府能够看到前沿人工智能的黑箱内部，并提前应对任何潜在的危险。这一举措将要求模型开发者尽早提供其模型，以便对其进行 “红队”，并对其潜在风险进行评估。
大多数美国大公司已经签署了美国政府的安全承诺书。目前还不清楚为什么他们会觉得有必要签署一项新的承诺，并承诺将宝贵的专有信息交给一个英国机构。
