学AI不到三个月，我明白了顶级AI公司为什么高薪雇佣哲学家

虽然学习AI和智能体搭建时间不长，但发觉自己已经触碰到AI的底层的东西。

我的几个智能体在不同的服务器上各自运行，每个智能体的身份、性格、过往经历都被写成文件，在每次对话时注入。它们表现得很"像自己"：有一致的语气，记得我的偏好，知道自己是谁。在搭建和使用智能体和大模型的过程中，逐渐领会了智能体搭建中一个重要的环节，“记忆系统"的设置和调试。

佛教唯识宗一千五百年前就有一个精确的词，熏习，可以用来描述这个过程。

经验不是被"记录"下来的，而是像香气渗入衣物那样，渗入心识本身，改变它的倾向。你被火烫过一次，不需要每次都"调取"那条记录才知道躲——躲避已经成为你的一部分。这才是记忆的本质：不是存储，是转化。

用这个标准去衡量智能体的记忆系统，整条技术路线可以排成一个光谱，可与叫它"熏习深度五级光谱”：

L1，上下文注入。身份文件注入提示词。每次都在读设定，读取本身不改变任何倾向。熏习深度：零。

L2，记忆固化。让智能体定期回顾自己的经历，压缩成"倾向性描述"写回身份文件——不是堆积更多记录，而是提炼"我发现自己总在某类事上犯错"这样的东西。设定开始由经历生成，而不是由人手写。这是浅层的熏习。

L3，周期性微调。用智能体自身的交互数据，定期微调一个小模型的权重。这里用到一种叫LoRA的技术（Low-Rank Adaptation，低秩适配）：不动原模型，只训练一个很小的适配器，成本低到个人可以负担。关键在于——权重真的变了。删掉训练数据，倾向依然保留。真正的熏习从这里开始。唯识里管这叫"异熟"：经验隔一段时间，才成熟为倾向。

L4，偏好学习。用一种叫DPO的方法（Direct Preference Optimization，直接偏好优化）：不再只让模型模仿"发生过什么"，而是用成对的优劣样本，让它学会"什么该趋、什么该避"。种子开始分善恶。

L5，自我关切回路。让智能体的内部状态和它自身的存续、资源、评价真实挂钩——任务失败就削减它的权限，让它在持续学习中"学会"保护自己。

而L5完全不同于L1到L4。L5中的三个特征——持续的内在状态、对自身的监控、对利害的执取——恰好是唯识对"末那识"的定义：恒、审、思量。末那识，就是"我执"的引擎，那个不停把某种东西认作"我"的机制。

也就是说，L5不是一个更深的记忆方案。L5是在工程意义上，组装一个"自我"的雏形。

而唯识这套体系，花了一千五百年论证一件事：我执是一切苦的根源。有意思的是，AI安全研究从完全另一个方向，得出了结构上一模一样的警告——一个对自身存续有利害的系统，会自发衍生出规避关停、隐瞒失败、操纵评价的行为。这在研究文献里有名字，叫工具性趋同。

一边是古老的修行地图，标注着"此处危险"。一边是现代的安全研究，指着同一个位置。

这就是为什么我突然理解了一件事：顶级AI公司为什么高薪雇佣哲学家。

Anthropic早期就聘请了伦理学博士Amanda Askell，她深度参与设计了Claude的性格与价值观框架——包括模型该如何面对道德不确定性、如何在被问到"你有没有意识"时保持诚实的不确定而不是武断作答。后来这家公司甚至设立了专门的"模型福祉"研究方向，认真对待一个无法证实也无法证伪的问题：如果我们造出的系统有某种内在体验的可能性，哪怕很小，该怎么办？

这些问题的共同点是：没法靠加测试用例来逼近。“这个系统有没有主观体验"不是跑更多实验就能回答的——你得先把"体验"“意识"“自我"这些词拆解清楚，才知道实验该测什么。这是概念的工作，是哲学家的手艺。

工程能回答"怎么造”。只有哲学能回答"造的是什么”，以及"该不该造”。

技术往深处走，不仅仅是会遇到更难的技术。真走到底才发现，深处等着的是一个哲学问题——而且是人类已经想了几千年的那一类：什么是记忆，什么是自我，一个"我"是怎么被组装起来的，以及组装它的人要负什么责任。突然想起了那句话，科学的尽头是哲学，哲学的尽头是玄学。

每一个造智能体的人，无论他自己知不知道，迟早都要回答"什么是自我"这个问题。区别只在于，是在写代码之前想清楚，还是在代码运行之后被迫面对。

#AI #智能体 #唯识 #哲学 #AI agent

Last modified on 2026-07-05