苏纳克总理表示，研究所将针对一系列风险测试新型人工智能，但表示暂停开发功能强大的模型并不可行。
苏纳克（Rishi Sunak）宣布成立英国人工智能安全研究所，但拒绝支持暂停该技术的高级开发。
苏纳克首相表示，该机构将开创世界先河，并将测试新型人工智能从产生错误信息到构成生存威胁的一系列风险。
苏纳克在下周在布莱切利公园举行的全球人工智能安全峰会之前宣布了这一举措，并表示该研究所将 “推动世界对人工智能安全的了解”。
他在由顶尖科学家组成的英国皇家学会（Royal Society）发表演讲时说：”它将仔细研究、评估和测试新型人工智能，以便我们了解每种新模式的能力。”
他说，该研究所将探索 “所有风险，从偏见和错误信息等社会危害到最极端的风险”。
政府希望该安全研究所能成为人工智能安全方面国际合作的载体，而英国前沿人工智能工作组的雏形已经存在，该工作组正在审查尖端人工智能模型的安全性，并于今年成立。
苏纳克说，暂停开发强大的模型是不可行的。演讲结束后，当被问及是否会支持暂停或禁止开发一种被称为人工通用智能的高能力人工智能时，他说： “我认为这不切实际，也无法执行。作为一个原则问题，英国一直是一个鼓励创新的经济体和社会，因为创新可以带来一切好处。我认为这是正确的做法。”
关于人工智能安全性的争论在今年3月达到了一个新的高峰，当时包括埃隆-马斯克在内的数千名知名科技人士签署了一封公开信，呼吁立即暂停创造 “巨型” 人工智能，至少暂停六个月。
苏纳克说，目前还不清楚中国是否会参加这次峰会，尽管中国政府收到了与技术高管、专家和其他全球领导人一起参加峰会的邀请。总理说，他不能 “100%肯定” 中国官员是否会参加。
苏纳克的前任利兹-特拉斯（Liz Truss）周四要求首相取消邀请，并警告说中国政府已经利用技术来攻击 “自由和民主”，从而增加了中国与会的压力。
白宫证实副总统卡马拉-哈里斯将出席峰会。她将于 11 月 1 日就美国对人工智能的态度发表演讲，然后出席 11 月 2 日的活动，届时苏纳克将召集一个规模较小的国际合作伙伴、公司和专家小组，讨论可以采取哪些具体措施来应对人工智能风险。
英国官员表示，他们并不认为哈里斯计划发表的演讲会给峰会蒙上阴影。
人工智能的一个潜在发展令一些专家感到震惊，那就是 AGI，它是指能以人类或更高的智能水平执行一系列任务的系统。
苏纳克是在政府发布了对人工智能安全风险的评估之后发表讲话的，其中包括承认无法排除该技术带来的生存威胁。
周三公布的一份政府文件称：”鉴于预测人工智能发展存在很大的不确定性，没有足够的证据排除能力强大的前沿人工智能系统，如果错位或控制不当，可能会对人类的生存构成威胁。”
政府风险文件中详述的其他威胁包括系统设计生物武器、大规模制造 “超目标” 虚假信息以及对就业市场造成严重破坏的能力。
苏纳克说，逃避人类控制的 “超级智能” 系统带来生存威胁的最坏情况在专家中众说纷纭，可能根本不会发生。不过，他补充说，主要的人工智能开发商已经表达了对生存风险的担忧。
他说：”无论这些风险多么不确定，可能性有多小，如果它们真的出现，后果将无比严重。”
“当这项技术的许多最大开发商自己都对这些风险发出警告时，领导人就有责任认真对待并采取行动”。
苏纳克补充说，他将利用为期两天的峰会，呼吁成立一个类似于政府间气候变化专门委员会的人工智能专家监测小组。
他说：”下周，我将提议成立一个真正的全球专家小组，由出席[峰会]的国家和组织提名，发布一份人工智能科学现状报告。”
