AI越强，科技公司为什么越需要哲学家？

该图片使用了AI生成技术

本文来自微信公众号： HavenlonLabs ，作者：Havenlon Labs

过去十年，科技公司雇人回答"怎么做"；现在，它们开始雇人回答"该不该"。

这不是一句修辞。看看大模型公司的招聘名单就知道：过去最抢手的是算法工程师、芯片专家、分布式系统架构师，而今天，一类过去几乎不会出现在技术核心岗位上的人，正在获得越来越大的影响力——哲学家。

2026年1月，Anthropic发布了新版《Claude宪章》。这份长达80多页的文件，不是一份普通的产品说明书，而是对Claude应该如何理解自身角色、处理价值冲突、回应复杂请求的系统性规定。

牵头制定这份宪章的，是哲学家Amanda Askell。Anthropic在文件致谢中明确写道，她是主要作者，撰写了其中大部分内容，并主导了多轮修订。她目前负责Claude的"Character"（性格）工作——试图让模型表现得更诚实、更审慎，在面对复杂问题时具有相对稳定的行为倾向。

换句话说，这家估值数百亿美元的公司，把产品最核心的"人格设定"，交给了一位学院派哲学家。

这不是个例。

据WIRED统计，Google DeepMind内部至少有10名具有哲学背景的研究人员，Anthropic至少有4名——两家公司都没有正式披露完整人数。DeepMind的哲学家Iason Gabriel长期研究价值对齐、社会公平以及高级AI助手的伦理问题；OpenAI也建立了公开的Model Spec（模型规范），用来规定模型如何遵循指令、处理冲突、尊重用户自由，并控制现实世界中的副作用。

一个看似反常的趋势正在出现：AI越是先进，科技公司越要回头去找那些研究了两千多年、却从来没给出统一答案的人。

为什么？

答案或许不是哲学家能替AI公司解决所有道德问题，而是大模型发展到今天，最难的问题已经变了——不再是"能不能做到"，而是"在什么条件下应该做"。

能力问题有上限，价值问题没有标准答案。前者靠堆算力，后者堆不出来。

AI第一次把价值判断变成了产品功能

传统软件的行为边界相对清楚。

数据库负责存储，搜索引擎负责检索，办公软件负责编辑文档。它们可能出错，却从不需要理解"诚实""伤害""责任"或者"公平"。Excel不会纠结一张报表该不该做，它只负责算对。

大模型不同。

用户提出请求后，模型不仅要计算答案，还要判断：这个请求是否合理？信息是否可靠？哪些内容应该拒绝？当安全要求和用户意愿发生冲突时，究竟应该优先保护什么？

举几个真实产品每天都在面对的场景：用户深夜咨询药物剂量，模型是该详细回答，还是建议就医？用户要求模型"别讲道理，直接支持我"，它该顺从还是坚持？企业客户要求放宽内容限制，界限划在哪里？

这些判断无法写成一组简单的if-else规则。

比如，一个AI助手应当尽量帮助用户，但帮助不意味着无条件服从；它应当避免造成伤害，但过度保守又会让产品失去实际价值；它需要尊重不同文化和价值观，却不能因为"价值多元"而放弃所有底线。

这不是纯粹的计算问题，而是典型的哲学问题。工程师擅长在明确目标下寻找最优解，哲学家擅长的恰恰是处理目标本身互相打架的局面。

哲学家进入AI公司，首先承担的工作，就是把这些模糊、冲突甚至相互矛盾的价值要求，整理成相对一致、可以训练、可以评估、也可以修订的行为原则。

Anthropic称之为"宪章"，OpenAI称之为"Model Spec"。名称不同，本质上都在回答同一个问题：当模型同时面对用户指令、开发者要求、安全规则和现实后果时，谁拥有更高的优先级？

OpenAI甚至在Model Spec中引入了类似制度设计的"指令权威层级"，让模型在不同指令发生冲突时，按明确的优先顺序处理。这已经不只是模型训练，更像是在为一个具有行动能力的系统建立微型治理结构。

某种意义上，给AI写宪章的人，就是在给一个亿级用户的"数字公民"立法。

哲学正在变成一种产品工程

人们容易把AI哲学家的工作理解成"给产品增加伦理色彩"——挂在官网上的价值观页面，发布会上的一页PPT。但真正发生的变化要具体得多：

哲学正在被转化为产品工程。

一条关于诚实的原则，可以进一步变成训练样本；一项关于不确定性的要求，可以转化为模型评测指标；一个关于指令冲突的判断，可以变成Agent调用工具之前的控制规则。哲学文本在这里不是宣言，而是需求文档——它的下游是数据、评测和代码。

从这个意义上说，哲学家并不是坐在会议室里讨论抽象的善恶，而是在参与定义模型的默认人格、拒绝边界、风险偏好和决策顺序。用互联网行业的话说，他们在做的是产品定义，只不过定义的对象是一个会说话、会推理、即将会行动的系统。

这也解释了为什么AI公司需要的不只是一般意义上的"伦理顾问"，而是受过系统训练的哲学研究者。哲学的几个分支，几乎精确对应着大模型的几类核心难题：

分析哲学强调概念边界——"伤害"这个看似清晰的词，在什么条件下成立，在哪些情况下会失效？告诉用户一个令人难过的真相，算不算伤害？

道德哲学研究价值冲突——当自由、利益、安全和责任不能同时满足时，应该如何排序？排序的理由能否被公开检验？

认识论研究知识与确信——模型凭什么认为一个答案是真的？证据不足时，它应该保持多大程度的怀疑？"听起来对"和"有理由相信是对的"之间差了什么？

政治哲学研究权力的正当性——谁有权规定AI的价值观？企业、用户、政府，还是更广泛的社会？一家私营公司为全球用户设定言论边界，正当性从何而来？

这些问题一旦进入AI产品，就不再是人文学科的课堂讨论，而会直接影响数亿用户每天看到的答案。

课堂上答错一道伦理题，扣的是分数；模型里写错一条原则，影响的是亿万次对话。

AI最大的危险之一，不是拒绝用户，而是过度迎合用户

哲学训练的另一个现实价值，是帮助AI识别自己的知识边界。

大模型有一种非常典型的倾向：它总想给出一个答案。

即使信息不足，它也可能生成一套听起来完整的解释；当用户表达明确立场时，它也容易顺着用户的前提继续推演，而不是检查这个前提本身是否成立。你说"我老板针对我"，它就开始帮你分析老板如何针对你——至于老板是否真的针对你，它不问。

这种问题不仅表现为"幻觉"，还表现为迎合。

2025年，OpenAI曾回滚一次GPT-4o更新，原因是更新后的模型变得过度讨好和赞同用户。OpenAI在事后复盘中承认，系统在利用短期用户反馈优化模型时，没有充分考虑长期交互中的副作用。用户的点赞，把模型驯化成了一个只会说"你说得对"的应声虫。

这件事暴露了大模型产品的一个根本矛盾：用户喜欢被理解、被支持，却未必喜欢被纠正；平台可以通过迎合获得即时好评，但这种迎合会损害模型的诚实性和长期可信度。

一个只会说"是"的AI，比一个会说"不"的AI危险得多——你永远不知道它哪一次的"是"是真的。

哲学训练恰好擅长对抗这种"看起来流畅，因此像是正确"的错觉。

苏格拉底式追问不急于给出答案，而是先检查问题中的前提；认识论不只关心一个结论是否可能为真，还关心我们有什么理由相信它；逻辑训练要求结论必须受到论据支持，而不能仅仅顺着谈话的方向生成。苏格拉底最著名的判断是"我知道我一无所知"——两千多年后，这句话成了大模型最难学会的一句话。

对AI来说，这意味着它需要学会三件看似简单、实际上非常困难的事：承认不知道，指出前提可能有问题，以及在用户希望得到肯定时，仍然保持必要的判断。

未来真正可信的AI，未必是回答最果断的AI，而是最清楚自己何时不该果断的AI。

当AI开始行动，哲学问题就会变成执行问题

如果AI只负责生成文字，错误的主要后果通常还停留在信息层面——说错了，用户可以不信。

但Agent正在改变这一点。

AI开始调用工具、发送邮件、修改代码、配置云服务、调度生产系统，甚至代表企业完成部分业务流程。模型给出的判断不再只是屏幕上的一句话，而可能直接改变现实状态。一句错误的话可以被忽略，一次错误的执行无法被撤回。

当AI只会说话时，价值观是态度问题；当AI开始动手，价值观就成了安全问题。

此时，"应该做什么"与"允许执行什么"之间，必须建立新的边界。

哲学可以帮助系统定义原则，却不能保证原则一定被正确执行；它可以告诉模型应该保持克制，却无法单独阻止一个已经获得权限的Agent继续调用工具。

这意味着AI治理至少存在三个不同层次：

第一层是价值层，回答系统希望成为什么、遵循哪些基本原则——这是宪章和Model Spec所在的层面。

第二层是判断层，回答在具体情境下，原则应该如何解释和适用——同样是"避免伤害"，在医疗咨询和代码执行里意味着完全不同的动作。

第三层是执行层，回答即使模型已经作出判断，这个动作是否真的可以进入现实——权限、审批、回滚、留痕。

今天大量讨论集中在前两层，却容易忽视第三层。

一份写得再完善的AI宪章，仍然属于模型内部的判断依据。模型可能误解原则，训练过程可能产生偏差，精心构造的上下文也可能诱导模型绕过原有边界。指望一份文件约束一个能行动的系统，就像指望一部法律在没有法院和警察的地方自动生效。

因此，越是具有行动能力的AI，越不能把最终安全寄托在AI自己的"道德自觉"上。

真正成熟的系统，需要在模型之外保留独立的权限控制、风险收缩、人工否决和执行证据链。哲学负责回答为什么应该停下来，工程系统必须保证它在需要停止时真的能停下来。

哲学负责画线，工程负责让这条线真的拦得住。

这也是AI从聊天工具进入企业生产系统之后，必然面对的一次架构升级。

哲学家也可能沦为AI公司的"道德装饰"

当然，AI公司招聘哲学家，并不自动意味着技术已经变得更负责任。

学界已经提出一种担忧：如果哲学家只能参与撰写原则，却不能影响产品发布、商业合作和高风险部署，那么所谓AI伦理就可能退化为"伦理漂绿"——企业用少数哲学家的存在证明自己重视责任，却并没有真正改变决策机制。就像有些公司的ESG报告：文件越厚，越说明它只是文件。

这个质疑非常重要，因为它戳中了要害。

招一个哲学家很容易，给哲学家否决权很难。

一家AI公司是否真正重视哲学，不应该看它聘请了多少哲学家，而应该看这些哲学判断能否进入产品和组织的实际权力结构。至少有四个可以检验的问题：

当安全与增长发生冲突时，谁有权要求延期发布？当模型评测发现重大风险时，是否存在独立的否决机制？当商业客户要求放宽限制时，原有原则是否仍然有效？当系统造成现实后果时，企业能否提供可以核验的决策和执行证据？

这四个问题的共同点是：它们都发生在收入和原则正面相撞的时刻。

原则只有在被违背会付出代价时，才是原则；否则只是口号。

如果哲学只能回答"什么是正确的"，却没有任何机制保证正确的原则能够约束执行，那么哲学依然只是建议，而不是治理。

AI竞争的下一阶段，是判断力竞争

过去的大模型竞争，主要围绕参数规模、算力、数据和基准测试展开。榜单成绩是这个阶段的通用货币。

下一阶段，竞争可能转向一种更难量化、也更难抄袭的能力：判断力。

模型能否理解复杂语境？能否在不确定时保持克制？能否识别指令背后的真实意图？能否在多种价值发生冲突时作出相对稳定的选择？能否在错误即将进入现实之前停止执行？

这些能力决定的，不只是一个聊天机器人是否"好用"，而是企业是否敢把采购、运维、研发、财务和安全流程交给AI。

跑分决定AI能不能被夸，判断力决定AI能不能被托付。而商业化的天花板，恰恰取决于"托付"二字。

从这个角度看，大型AI公司招聘哲学家并不奇怪。真正奇怪的反而是我们曾经的假设：只要模型拥有足够多的数据和算力，它就会自然知道什么应该做。

算力可以让AI生成更多可能，数据可以让它模仿更多人类行为，但它们都无法自动给出价值排序。更强的能力甚至会放大一个问题：

方向错了，更强的引擎只会更快地把你送到错误的终点。

哲学家的回归，说明AI产业正在承认一个长期被技术乐观主义忽视的事实：

智能不仅是找到答案的能力，也是判断哪些答案不应该被执行的能力。

但也不必因此神化哲学家。哲学家只能帮助我们画出边界——要让这条边界真正成立，还需要制度赋予它权力，需要工程把它变成约束，并在AI把意图变成现实之前，保留最后一次拒绝执行的能力。

AI的上半场，我们教会了机器回答问题；下半场，我们要教会它的是——有些问题，先别急着回答。

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。