【独家对话】欧盟AI法案主起草人Gabriele Mazzini：在不确定中，我宁可说 “没有法律更好”

本期节目已于8月14日登陆小宇宙、Apple Podcasts、Spotify等音频平台，欢迎收听。

2024年8月1日，欧盟人工智能法案(AI Act)生效。如今适逢生效期已满一年，这部被誉为“全球首部AI综合性法律”却正面临着前所未有的质疑。

在本期节目中，智幻时刻Fungimind邀请到了这部法案的架构师兼主作者Gabriele Mazzini做客。在上海举行的世界人工智能大会WAIC结束后，我们一起复盘了这部法案背后理想与现实的差距。

作为立法者，对话当天卸下了官方日程后的Mazzini展现了更为真诚的个人立场，没有太多的外交辞令。

面对这部最终文本已经和自己的设想大不相同的法案，他在智幻时刻Fungimind的播客中表示，欧盟的立法过程非常复杂，从起草到谈判通常要横跨数年，在这样的背景下，AI Act略显仓促，“欧盟应该要更充分地考虑这种匆忙立法的后果......在这种不确定性中，我宁可说，没有法律更好。"

在我们对话前不久，数十家家欧洲企业刚刚联名签下了一封公开信，呼吁欧盟委员会暂停AI法案部分条款执行至少两年。企业们普遍担心在紧迫期限内，自己无法完成合规准备，而AI Act的部分条款显得含糊且缺乏统一标准。

在欧盟法律体系内，AI Act与现有法规存在交叉冲突，导致执行成本高、成员国落地不一。而可解释性AI、人类监督、稳健性等核心要求也尚未形成可操作的技术规范，最终导致科技巨头批评其过度监管抑制创新，而初创企业担忧市场准入受限。

法律文本的模糊在实际执行中创设了新的困难。在这次WAIC的“人工智能规则全球对话与协同发展”论坛上，Mazzini在发言中谈到：“目前在布鲁塞尔已经有人提出暂停实施的建议，理由是现有的执行机构难以承担这样的制度负担。” 

他指出，法案的快速扩展虽增强了覆盖面，但也放大了执行难度与法律重叠问题。

前些天，欧盟新发布了Code of Practice（后文称《行为准则》），这是一份非强制性的指导文件，旨在帮助通用AI模型提供商遵守AI法案中的法律义务。

签署该准则的AI模型提供商可以通过遵守准则来证明其符合AI法案要求，这将减轻他们的行政负担，并比通过其他方式证明合规性提供更多的法律确定性。

但是，Meta成为第一个拒绝签署该准则的全球性科技巨头。

据Mazzini介绍，这份准则据说有约800多人参与起草，其庞大的利益相关方参与机制暴露了欧盟在快速响应技术变化方面的问题。

“如果一个人代表Google，一个人代表大学......你没法用800个人来写一份文件。” Mazzini说，“我认为我们必须认识到，如果这些技术是由某些公司开发的，那你首先得去和他们对话。但作为监管机构，你必须有过滤信息的专业能力，要清楚自己要做什么。”

欧洲AI联盟在2024年发布的一份声明中表示，法案中关于“系统性风险”的定义过于宽泛，而相关的技术标准至今仍未明确。Mazzini在智幻时刻Fungimind的这期访谈中也确认了这一点：“我认为委员会也许是出于善意...但如果你去读那些实施指南，他们并没有提供应有的清晰度。”

和如今所面临的艰难不同，欧盟对AI Act原本是充满期待的。在许多公开媒体信息上，我们都能看到世界各地的许多科技政策与技术标准专家们曾有着一个共同的说法——《欧盟人工智能法案》会成为下一个GDPR，在全球范围内引发“布鲁塞尔效应”。

在2021年4月，时任欧盟委员会主席的冯德莱恩将其定位为“为可信AI设定全球标准”的关键举措。这部法案采用了基于风险分层的监管方式，将AI系统分为不可接受风险、高风险、有限风险和最小风险四个类别。

这一框架在当时被认为是平衡发展与安全的立法创新。

然而，我们如今回顾这部全球如此受到瞩目的法案的立法过程，不难看到其中政治、产业和技术三者之间不断拉扯的过程，那些惯常出现在立法故事中的游说和博弈也并未将AI Act拉向削弱的结局，它反而比最初的提案严苛许多。

这是一期法案起草者的复盘，也是一次技术治理的“背叛式”反思。在科技政策领域，能为既定事实辩护的人太多，而跳出框架诚实表态的人太少。

我们珍视这场对话，也珍视作为立法者，Mazzini个人化的内心动态、观察与反思，这为这期节目增加了更多的人文趣味。

欢迎大家收听这期带着brutal honesty（“残酷的诚实”）的对话。

• Zhuoran：智幻时刻Fungimind主播，AI治理研究者，拥有财经媒体和云计算&AI行业的交叉从业背景

   

• Neal牛牧江曲：智幻时刻Fungimind主播，资深财经记者

   

Gabriele Mazzini：欧盟人工智能法案AI Act 架构师、主笔人

Mazzini在担任欧盟委员会团队负责人直至2024年7月期间，设计并领导了欧盟委员会《欧盟人工智能法案》的起草工作，并在与议会和欧盟理事会的立法谈判中担任首席顾问。自2017年以来，他还参与了欧盟委员会关于欧洲人工智能方针的早期政策工作，包括《人工智能卓越与信任生态系统白皮书》以及关于新兴技术责任的工作。

00:10 核心观点：我们正在承担匆忙立法的后果

02:06 对话背景与嘉宾介绍

04:10 上海之行的感受：跨界交流的重要性——学界、政府、产业同场讨论极为难得

6:45 AI Act的实施是否与立法者的预期一致？

• 法案诞生的内部视角

8:55 欧盟AI权力机构的定位与智能：新设AI office 和 AI board为何不寻常？

12:28 揭开欧盟立法流程的内部视角：从起草到成为真正的法律

17:14 欧盟为何着急立法？被压缩的时间与模糊的基础模型定义

20:17 全球第一部AI法案，没有能抄的模板怎么办？

24:26 当ChatGPT在法案初稿成型后出现

• 法案细部：当理想设计遭遇现实挑战

30:35  备受关注的高风险AI系统与不可接受的风险：终稿和设想大相径庭，甚至埋下了错误的伏笔

35:27 当欧洲科技公司集体呼吁暂停法案执行至少两年，以等待确立技术标准，Mazzini：我支持

37:34 警惕“大公司要求更多监管”作为护城河策略，阻挡中小企业进入市场

45:14 被Meta拒签的全新Code of Practice，是一种政治压力下的妥协吗？

52:00 监管沙箱，如何吸引中小企业自由创新？

• 国际竞争：从算力到开源

56:52  Deepseek出现后的影响

58:57  开源为何如此重要？

1:03:44  面对全球AI竞赛，欧盟的担忧：监管孤岛 vs. 技术孤立

01:07:39 “我现在经常倡导真正基于证据的监管”

01:09:23  和AI毁灭人类比起来，我们眼下更应该关心什么？