欧盟达成世界首个全面 AI 规则协议

• 欧洲议会仍需要在明年初对该法案进行投票，但随着大家达成了协议，投票只不过是一种形式而已。
• 该法律最早要到 2025 年才能完全生效，并对违反规定的公司处以高达 3500 万欧元（3800 万美元）、或公司全球营业额的 7% 的巨额罚款。
• 研究人员警告称，由少数大型科技公司建立的强大基础模型，可能被用于加强在线虚假信息和操纵、网络攻击或生物武器的创建。

###

伦敦（美联社）—— 欧盟谈判代表周五达成了世界首个全面的人工智能规则协议，为监管 AI 技术铺平了道路。AI 将会改变日常生活，并引发对人类生存危险的担忧。

来自欧洲议会和 27 个成员国的谈判代表，讨论了生成式 AI、警用面部识别监视等有争议的问题，签署了《人工智能法》的初步政治协议。

这一结果是在本周长时间的闭门会谈之后达成。首场会议持续了 22 个小时，然后在星期五上午开始了第二轮。

官员们将其视为政治胜利。然而，民间社会团体对此表示冷淡，他们还在拭目以待未来几周内需要解决的技术细节。他们表示，该协议在保护人们免受 AI 风险方面不够充分。

「今天的政治协议标志着《人工智能法》的重要和必要的技术细节工作的开始，这些细节目前仍然缺失，」 计算机和通信产业协会欧洲办事处主任丹尼尔·弗里德兰德说，该协会是一家科技行业游说团体。

欧盟在全球竞相制定 AI 监管政策的竞赛中领先，于 2021 年首次公布了其规则草案。然而，最近生成式 AI 的迅猛发展使欧洲官员不得不更新一份旨在成为全球蓝图的提案。

欧洲议会仍需要在明年初对该法案进行投票，但随着大家达成了协议，投票只不过是一种形式而已，意大利议员布兰多·贝尼费告诉美联社记者。

在问及是否包含了他想要的一切后，他发来了一条短信：「非常非常好。」 「显然，我们不得不接受一些妥协，但总体来说非常好。」 该法律最早要到 2025 年才能完全生效，并对违反规定的公司处以高达 3500 万欧元（3800 万美元）、或公司全球营业额的 7% 的巨额罚款。

生成式 AI 系统，如 OpenAI 的 ChatGPT，已经进入了世界的视野，以其能够生成类似人类的文本、照片和歌曲而引起用户的注意，但也引发了对该快速发展技术对工作、隐私、版权保护甚至人类生命构成风险的担忧。

现在，美国、英国、中国和七国集团等全球联盟已经提出了自己的监管 AI 的提案，尽管它们仍在赶超欧洲。

哥伦比亚法学院教授、专精于欧盟法和数字监管的 Anu Bradford 表示，欧盟的强大和全面规则 「可以为许多政府考虑监管的政府设立强有力的榜样」。其他国家 「可能不会复制每一项规定，但可能会模仿其中的许多方面。」

受欧盟规则约束的 AI 公司还可能会将一些义务扩展到欧洲以外的地区，她说：「毕竟，为不同市场重新培训独立的模型并不高效。」

AI 法最初是为了减轻对特定 AI 功能的危险程度进行根据风险水平分类的，从低到不可接受。但立法者推动将其扩展到基础模型，这些高级系统是支撑 ChatGPT 和 Google 的 Bard 聊天机器人等通用 AI 服务的基础。

基础模型看起来是欧洲最大的争议之一。然而，尽管由法国领导的反对意见要求为与美国的竞争中的本土欧洲生成式 AI 公司提供自我监管，但谈判代表在谈判初期就达成了初步妥协。

这些系统也被称为大型语言模型，它们是基于从互联网上获取的大量文本和图像进行训练的。它们使生成式 AI 系统能够创造新的东西，与传统 AI 不同，后者使用预定的规则处理数据并完成任务。

研究人员警告称，由少数大型科技公司建立的强大基础模型，可能被用于加强在线虚假信息和操纵、网络攻击或生物武器的创建。

维权团体也警告称，对于用于训练模型的数据缺乏透明度可能对日常生活构成风险，因为这些模型作为构建以 AI 为动力的服务的软件开发人员的基本结构。

最棘手的问题是基于 AI 的面部识别监控系统，谈判代表在密集的讨价还价后达成了妥协。

欧洲议员出于隐私担忧希望完全禁止公共使用面部扫描和其他 「远程生物识别」 系统。但成员国政府成功地谈妥了例外情形，以便执法部门可以使用这些系统来打击儿童性剥削或恐怖袭击等严重犯罪。

维权团体表示，他们对《人工智能法》中的这些例外和其他重大漏洞感到担忧，包括缺乏对用于移民和边境控制中使用的 AI 系统的保护，以及开发人员可以选择将其系统分类为高风险的选项。

数字权利组织 Access Now 的高级政策分析师丹尼尔·洛弗说：「无论在这些最终谈判中取得了哪些胜利，事实仍然存在着巨大的缺陷，这份最终文件仍然存在着巨大的缺陷。」

Disclosure: We are an Amazon Associate. Some links on this website are affiliate links, which means we may earn a commission or receive a referral fee when you sign up or make a purchase through those links.

相关文章

• 劳工部重磅指南：AI如何影响你的工作权利？
• AI 如何决定以色列在加沙的轰炸目标
• 美国海关限制或禁止入境的物品及其规定
• 2024 回国托运和随身携带行李缴纳关税的规定和误区
• 美英联合发布《安全人工智能系统开发指南》
• 劳工部将扩大 A 类职业列表，STEM 职位申请绿卡或无需 PERM
• 巴西城市批准了一项由 ChatGPT 撰写的提案
• 拜登任命了美国历史上最多元化的联邦法官
• 梅·艾：反华法律正在增加，这条路似曾相识
• 美国关于无人机航拍的法律规定 —— 比如国家公园
• 2024 年如何申请 Obamacare 奥巴马医保计划（Healthcare.gov）
• 绿卡酒驾 DUI 会影响移民身份吗？