菌络、森林与AI安全：人类控制技术的幻觉是如何崩塌的？ | 治理研究

这是一期反强预测、反权威、反控制的社会治理讨论。在这片菌菇森林中，AI安全这一略显晦涩的技术议题，得以诗意地栖居。

本期延续了智幻时刻Fungimind此前对结构性风险与叙事霸权的讨论：治理和政策如果说是顶层设计者的梦想，那么我们每个普通人，是否能像从地底蔓延出来的菌络和植物一样，成为系统的参与者。

我们分享了Mila—魁北克人工智能研究院助理教授Tegan Maharaj在智源研究院和安远AI共同举办的AI安全分论坛上的演讲。

她基于生态学研究，提出了一套AI治理的新框架：从分形稳定性、到去中心治理，如果说我们之前讨论AI的叙事是为了试图看清世界发展的剧本，那么现在，我们如何书写自己的剧本？

图说：智源大会AI安全论坛圆桌  

现场嘉宾从左到右：谢旻希、张宏江、薛澜    

线上连线嘉宾：Max Tegmark、Tegan Maharaj

Credit to：智幻时刻Fungimind

由此出发，我们在本期播客中主要提出的几个问题：

1. 生态学家提出的9个步骤AI治理行动方案是如何的？

    

2. 切尔诺贝利如何告诉我们，“完美”的安全系统有多危险？

    

3. 脆弱的安全设计：站在生态系统弹性、冗余机制的对立面

    

4. 风险、控制、责任，后人类时代的治理语言是如何形成的？

    

5. 菌丝网络能教我们建立未来的AI安全系统吗？

• Zhuoran：AI治理研究者，重点关注科技法和STS领域，拥有财经媒体和云计算&AI行业的交叉从业背景，并参加过多个AI Safety治理研究项目。

00:04   开场：抛开宏大叙事后，我们还能相信“治理”这个词吗？

02:10  2025智源大会上的惊喜：人工智能研究者 Teigen Maharaj 基于生物多样性研究给出的AI治理行动方案

03:15  生态生态！超越人类中心主义的视角

05:55  分形稳定性：从西兰花到海岸线，大自然为何总是相似且重复？

06:26  Tegan Maharaj的AI治理九步法

• 建立AI-free安全区

• 增强权力多样性

• 建立人类备用通道

• 设立紧急开关

• 去中心化资源管理

• 部署多元预警系统

• 引入多个治理中心

• 建立隔离协议

• 联合演练与情境规划

07:14 从第一步聊起，AI安全模拟"半个地球倡议”

09:07 AI安全的长期讨论：你能“一键关掉AI集群”吗？

10:18 沉浸式回顾切尔诺贝利：当安全按钮成为灾难触发器

19:23  理性的幻觉、人类安全设计的祭坛：在系统有毒的前提下，合规为何更加致命？

22:56 分层治理的数据中心：“能否被关闭”如何成为技术治理的象征？又如何成为一种国家战略？

25:00 去中心化治理：谁能提醒、谁有权限、谁有备用机制

28:19  生态叙事是如何迁移进当代社会的治理中的

32:29 木联网：真菌网络的启示，与放弃光合作用的水晶兰

36:14 真菌独立王国：介于世界之间，一种反暴力与反权威性协作的机制

37:00 让AI对齐人类价值观是否本身是荒谬的？

38:36 像森林一样思考：反脆弱理论在AI安全中的应用

41:45 中国与新加坡：生态治理的天然适配性

参考资料

• 1.Tegan Maharaj：2025年智源大会演讲与PPT，链接：event.baai.ac.cn，Tegan 在演讲中提出以“真菌网络”作为治理类比，主张借鉴生态系统中的共生机制与去中心化特征，用于思考AI治理架构，强调系统的“韧性”、“反馈机制”与“复杂性中的秩序”。

   

• 2.《Why Centralized AI is Not Our Inevitable Future》｜Cosmos Institute，批判大型科技公司对AI技术路线的垄断性主导，主张构建去中心化、多样性的AI未来，并引入文化差异的包容机制。

   

• 3.《菌络万象》｜Merlin Sheldrake 著，深入探讨真菌如何构成自然生态的神经网络，讲述“菌丝体”如何连接植物、传递信息与资源，是生态治理类比的重要灵感源泉。

   

• 4.《反脆弱》｜塔勒布 著，提出“反脆弱”这一概念，强调系统应从混乱中获得成长，批评过度精密和集中控制的风险，是对AI集中化趋势的间接批评。

   

• 5.《Incentivized Symbiosis: A Paradigm for Human-Agent Coevolution》｜Montreal AI Ethics Institute，提出人类与AI代理共生进化的治理框架，以信任、问责和透明为核心，并结合代币激励机制与去中心治理模型。

   

• 6.半地球倡议（Half-Earth Project）｜E.O. Wilson 链接：www.half-earthproject.org，主张将地球一半土地用于生物多样性保护，强调人类活动应“留白”，该理念被用于比喻AI治理中保留系统不确定性的必要性。

   

• 7.Elinor Ostrom：政治经济学家，拥有政治学博士学位，但长期跨足制度经济学领域。她在2009年获得诺贝尔经济学奖，表彰她对“经济治理，尤其是公共资源治理方面的分析”的贡献。她提出的“制度分析与发展框架”（IAD）与“多中心治理”理念，被广泛用于分析水源、渔业、森林等资源的地方协作管理机制。她的研究打破了传统经济学关于‘公地悲剧’的悲观看法，证明了地方社区有能力通过自我组织、建立规则与信任机制，实现可持续治理。

   

• 8.安德烈·法明岑：俄国植物学家，19世纪末首次提出植物可通过真菌网络进行物质交换，是最早研究菌根共生现象的学者之一。他在俄罗斯帝国科学院任职，提出植物之间可能并非孤立吸收养分，而是真菌可能是植物间物质流动的中介者，因缺乏实验证据长期未被重视。

   

• 9.埃里克·比约克曼：瑞典植物学家，20世纪60年代对菌根共生系统进行了系统性实验，是最早从实验角度验证植物共生关系的研究者之一。通过研究水晶兰（Monotropa uniflora）等不依靠光合作用的植物，比约克曼证明它们依赖地下真菌与邻近植物交换能量，为植物间“地下通讯”提供了实验基础。

   

• 10.苏珊·西马尔：论文链接：www.nature.com ，加拿大植物生态学家，1997年在《Nature》上发表开创性论文，首次在自然环境中验证树木通过真菌网络（菌根）传递碳资源，尤其在针叶林中表现明显。她用碳同位素标记法实验证明：老树能将碳传输给年幼苗木，推动了“森林合作”理论的确立。

鬼魂烟斗（水晶兰）：

血晶兰

🎵 BGM：

• 开场：Echoes of Nature - Drizzly Day Nature

• 切尔诺贝利部分插曲：Homin Lviv Municipal Choir - Vichnaya Pamyat

• 森林部分过渡插曲：FELT - Wind

• 片尾：Lonely Man - Alex Hamlin