人工智能管理的兴起提出了有关数据和大技术的紧迫问题。我们需要新的立法来解决这个问题。
好莱坞最近发生的编剧与威胁他们工作的机器人之间的争斗，本应给数百万欧洲工人敲响警钟。谁来保护我们的工作权利不受算法的侵害？
从工厂到办公室，我们工作场所的传统面貌正因机器人、算法和人工智能的普及而发生巨大变化。但似乎是科技巨头，而不是工人，获得了大部分好处。在全球价值链中，工作任务越来越分散，或分布在不同的地域。算法现在可以实时监控工作活动，但如果不加以控制，就会带来剥削或歧视的风险。这些影响既挑战了我们既定的劳动规范，也挑战了我们社会保障体系的支柱。
亚马逊最能代表算法成为老板的模式转变。该公司依靠算法来监督其仓库中工人的生产率，这种做法正受到越来越多的法律审查，工人们抱怨说，不断使用跟踪技术是非人性化的。在亚马逊，算法才是王道：雇佣、评估和解雇数百万人，几乎不需要人工监督。一名工人在 7 月份考文垂亚马逊 BHX4 仓库罢工前说道： “他们可以监控你，每分钟、每项任务–这是微观管理”。该公司不仅将自动化融入其庞大业务的核心，还卷入了其他重大法律纠纷，包括美国联邦贸易委员会和 17 个州的总检察长在 9 月份发起的一项重大反垄断诉讼。
有时有人认为，新 “算法老板” 的崛起可以提高效率，尤其是在生产力停滞不前的时候，他们负责自动完成招聘、分配任务、决定工资甚至裁员等任务。然而，在我们的公开辩论中，却没有提到数据提取是如何被用来加强监控的，这有可能会强化种族、性别和阶级的不平等，也没有提到人们逐渐丧失了获取工人生产的数据和收集的有关他们的数据的权利。
娱乐业最近与人工智能的对抗也揭示了类似的挑战。美国作家协会在一项开创性的协议中规定，如果电影和电视制片厂采用人工智能生成的内容，必须通知编剧，以确保编剧的知识产权不受侵犯。这开创了一个重要先例，强调了工人在决定如何将人工智能融入其工作方面的特权。
在好莱坞罢工之前，过去十年间发生了无数起涉及外卖配送员或平台经济中其他职业的诉讼。美国的作家和记者曾对人工智能公司提起诉讼，因为这些公司将他们的作品输入人工智能引擎，却不给他们选择退出的权利，也不保护他们的知识产权。
2023 年 8 月，纽约，Sag-Aftra 工会成员支持编剧的抗议活动。照片：Anadolu Agency/Getty Images
欧洲各地的工人及其工会也将这一算法告上了法庭。 2021 年 2 月，英国最高法院做出裁决，Uber 司机应被归类为 “工人”，而非独立、自营职业的 “合伙人”。这种分类使司机有权享受最低工资、带薪假期和休息时间等福利。Uber 使用算法管理和控制司机是法院做出裁决的关键因素。
今年早些时候，荷兰一家法院在另一起针对打车巨头 Uber 和 Ola 的案件中支持工人的观点。判决强调，这些平台不应向司机隐瞒有关自动决策、工人特征分析和管理评估的数据。这凸显了人工监督在解雇等决策中的重要性，以及工人获取算法用来决定其命运的数据的基本权利。
今年 6 月，巴勒莫一家法院裁定，西班牙食品配送平台 Glovo（意大利市场的领导者）必须披露其算法是如何为工人分配任务的。这一判决的核心是要求这些算法的运作方式透明化，这对维护平台工人的权利至关重要。
随着算法管理的普及，出现了一些紧迫的问题：谁在控制为人工智能系统提供动力的数据？大型科技垄断企业在塑造这一格局中扮演了什么角色？数字经济的迅速扩张不断考验着传统劳动权利的边界，加剧了社会权力的不平衡。
欧盟应发挥决定性作用，确保这一数字转型符合民主原则，以工人权利和集体谈判为中心。拟议的《欧盟人工智能法》是世界上首次尝试对人工智能系统进行横向监管。它包含了几个值得称赞的方面，如禁止大规模生物识别监控、禁止用于识别情感、性别或性取向的人工智能系统以及禁止预测性警务系统。
虽然欧盟目前的整体立法设置为约束大型科技公司提供了一个世界领先的范例，但在保护工人权利方面却存在脱节。无论是《人工智能法》还是拟议中的平台工作指令，都没有明确考虑算法对工作条件的影响，也没有预见到禁止使用算法解雇工人。
为了建立一个真正公平的数字工作空间，欧洲需要一个全方位的战略，既包括数据的可访问性和对算法的民主控制，又考虑到算法对工作条件的影响。目前形式的《欧洲数据治理法》于2022年生效，它提供了一个初步蓝图。该法案允许人工智能 “黑箱” 被打开，并接受有关各方的审查，例如，通过创建数据中介机构，即允许数据持有者（工人）和数据收集者（公司）之间进行协商的服务提供商。
然而，要使算法真正做到透明和公平，传统机构、工会和相关公共机构必须能够访问科技公司收集的数据，同时维护数据隐私和商业机密。
我们需要一个新的公共和独立的数据中介机构，为大众利益服务：一个在21世纪组织工作的新的民主机构。我在考虑建立一个 “数字工人数据信托机构”，让员工对自己的数据有更多的控制权，确定所收集信息的合法用途，以及信息产生的环境和可用于的目的。
工人和工会必须能够积极参与数据和算法的管理，以限制其负面影响并分享人工智能的好处。如果工人能够参与其中并被赋予权力，生产力和效率也会随之提高。在数字和生态双重转型的背景下，一种有助于保障欧洲工业的战略自主性和竞争力，同时又能促进工人权利的算法治理形式比以往任何时候都更加迫切。
