加入VIP

政治家承诺合作解决人工智能安全问题

53302551444_cc213f1e31_b

 

 

全世界都在争夺人工智能领域的主导权,但今天,其中一些国家似乎走到了一起,表示在降低风险方面,他们更倾向于合作。

在英国布莱切利公园举行的人工智能安全峰会上,英国技术大臣米歇尔-多纳兰(Michelle Donelan)宣布了一份名为《布莱切利宣言》(Bletchley Declaration)的新政策文件,该文件旨在就如何应对人工智能在当前和未来发展过程中带来的风险达成全球共识。她还表示,峰会将成为一项定期、经常性的活动: 她说,另一次峰会将于六个月后在韩国举行,六个月后在法国举行。

与会议本身的基调一样,今天发布的文件也相对较高。

文件指出:”为了实现这一目标,我们申明,为了所有人的利益,应该以安全的方式设计、开发、部署和使用人工智能,做到以人为本、值得信赖和负责任。文件还特别呼吁关注 OpenAI、Meta 和谷歌等公司正在开发的大型语言模型,以及它们可能被滥用的具体威胁。”

论文指出:”特别的安全风险出现在人工智能的’前沿’,即那些能力很强的通用人工智能模型,包括基础模型,它们可以执行各种各样的任务–以及相关的特定狭义人工智能,它们可能表现出造成伤害的能力–这些能力与当今最先进模型的能力相当,甚至超过它们。”

与此同时,还有一些具体的进展。

美国商务部长吉娜-雷蒙多(Gina Raimondo)宣布成立一个新的人工智能安全研究所,该研究所将设在商务部,特别是该部的国家标准与技术研究所(NIST)之下。

她说,该机构的目标是与其他国家政府成立的其他人工智能安全小组密切合作,并提到了英国也计划成立的安全研究所

雷蒙多说:”我们必须开始工作,在我们的机构之间,我们必须开始工作,[实现]全球政策的协调一致。”

参加今天开幕式全体会议的政治领导人不仅有来自世界上最大经济体的代表,还有一些代表发展中国家(统称全球南方国家)发言的代表。

他们包括中国科技部副部长吴朝晖、欧盟委员会负责价值观和透明度事务的副主席维拉-尤洛娃(Vera Jourova)、印度电子和信息技术国务部长拉吉夫-钱德拉塞卡(Rajeev Chandrasekhar)、阿联酋人工智能国务部长奥马尔-苏丹-奥拉马(Omar Sultan al Olama)和尼日利亚技术部长博桑-蒂贾尼(Bosun Tijani)。他们共同谈到了包容性和责任感,让我们拭目以待。

伊恩-霍加斯(Ian Hogarth)是一位创始人、投资人和工程师,他目前是英国政府人工智能基础模型特别工作组的主席,他在本次会议的筹备过程中发挥了重要作用。”在座的各位都不清楚,计算能力的下一步跃进会带来怎样的好处或坏处。我们一直在努力将[对风险的担忧]建立在经验主义和严谨性的基础上,[但]我们目前缺乏了解……这是非常惊人的。”

“历史将评判我们应对这一挑战的能力。它将根据我们在未来两天的言行来评判我们”。

微海报