美国国会不会很快通过联邦人工智能法规。纽约市正在推进一项人工智能行动计划，并提议成立一个新的算法数据完整性办公室。
由于美国联邦政府难以对人工智能进行有意义的监管，甚至难以发挥作用，纽约市正在介入这一治理空白。
纽约市本周推出了一项人工智能行动计划，市长埃里克-亚当斯（Eric Adams）称其为全美首创。该计划包含约 40 项政策措施，旨在保护居民免受人工智能带来的偏见或歧视等伤害。其中包括为市政机构购买的人工智能制定标准，以及建立新的机制来衡量市政部门使用人工智能的风险。
纽约的人工智能监管可能很快会进一步扩大。市议会技术委员会主席珍妮弗-古铁雷斯（Jennifer Gutiérrez）今天提出了一项立法，将设立一个算法数据完整性办公室来监督纽约的人工智能。
如果成立，该办公室将为市民提供一个对公共机构使用的自动决策系统进行投诉的场所，其功能类似于五个行政区的算法监察员。该办公室还将在城市部署人工智能系统之前对其进行评估，以确定是否存在偏见和歧视。
今年早些时候，几位美国参议员曾建议成立一个新的联邦机构来监管人工智能，但古铁雷斯说，她已经明白，等待华盛顿特区采取行动是没有意义的。她说：我们肩负着独特的责任，因为很多创新都生活在这里。对我们来说，发挥带头作用真的很重要”。
纽约市议员珍妮弗-古铁雷斯（Jennifer Gutiérrez）希望市政府成立一个办公室来监管人工智能。 摄影：William Alatriste
古铁雷斯支持对市政府使用的算法提出测试要求，因为人工智能正开始得到广泛应用，她说。市政府有兴趣将人工智能软件用于行政任务，如评估儿童成为虐待受害者的风险或学生的学习率。她还对市长埃里克-亚当斯（Eric Adams）对机器狗和人工智能等技术的喜爱保持警惕，因为人工智能可以用他不会的语言拨打机器人电话。纽约市素有监控技术试验场的美誉，从最近无人机使用的增加，到住房、体育场馆和警察使用人脸识别技术的质疑。
甚至在本周之前，纽约在人工智能监管方面就已经走在了联邦政府的前面。2018年，纽约市成立了一个特别工作组来评估该技术的使用情况。今年早些时候，一项要求对企业使用的招聘算法进行偏见检查的法律开始生效。但一些保护措施已被削减。2022 年 1 月，亚当斯取消了他的前任比尔-德布拉西奥（Bill de Blasio）签署的一项行政命令，该命令设立了一个算法管理和政策官员，负责与市政机构合作，以公平的方式部署人工智能。该官员在 2020 年发布的一份报告中称，城市机构使用了 16 种可能对人们的权利产生重大影响的算法，但并未对纽约市警察局使用的每一种人工智能模型进行调查。
古铁雷斯说，她对市政机构使用的算法还没有一个全面的了解。纽约州主计长在今年 2 月发布的一份审计报告中发现，纽约市在人工智能治理方面采用的是一种临时且不完整的方法。它警告说，这意味着该市无法 “确保本市对人工智能的使用是透明、准确和公正的，也无法避免不同的影响”。
人工智能研究员、纽约大学负责任人工智能中心主任朱莉娅-斯托扬诺维奇（Julia Stoyanovich）帮助编撰了这份报告，她表示支持古铁雷斯提出的立法建议–只要由此产生的机构是一个独立的外部机构。这将取决于该法案是否能在市议会获得提案人并获得批准。
斯托扬诺维奇对市政府选择在本周发布人工智能行动计划的做法不太赞同，因为就在同一天，市政府还推出了一款名为 “我的城市”（MyCity）的聊天机器人，旨在为小企业解答他们所需的许可证和执照等问题。她认为，该项目不受《人工智能行动计划》中征求公众意见等条款的限制是有问题的。市长办公室发言人乔纳-阿隆（Jonah Allon）表示，同时发布聊天机器人是为了对计划中规定的评估过程进行压力测试，该计划将涉及人工智能的现有和未来用途。
斯托扬诺维奇说，纽约可能是较早对人工智能进行监管的城市，但它的做法并不一致。特别是考虑到我们是最早开始的，在我们开始五六年后，我们还没有取得很大进展，市政府内部也没有明确的人工智能治理原则，这让我感到非常痛心。
在美国少数几个州、市和官员已经开始对人工智能进行监管的地方，要求在部署前对系统进行评估以评估潜在危害的想法已成为一种常见的方法。加利福尼亚州州长加文-纽森（Gavin Newsom）上个月签署的一项行政命令以及拜登总统在七月份与主要人工智能公司达成的一项自愿协议中都提到了这一点。一个常见的分歧点是，这种评估可以在内部进行，还是由独立的第三方进行。熟悉此事的消息人士告诉《WIRED》，白宫有望在未来几周内发布一项行政命令，对人工智能进行监管。由于众议院本周仍在努力选举新议长，国会似乎不太可能在短期内辩论或通过人工智能立法。
