三位科技先驱谈如何与AI建立信任与责任机制

互联网联合创始人之一Vint Cerf博士观察到，面对AI，"感觉我们遇到了一种新的生命形式，正在努力弄清楚它是如何思考的。"这提醒我们，人类与AI之间的工作关系和商业关系，可能与人与人之间的关系截然不同。

曾主导9·11事件响应、2001年炭疽危机应对及美国联邦通信委员会现代化改革的科技领导者David Bray博士则建议："也许我们不应该称之为人工智能，而应该称之为'异类交互'。这样我们就不会试图将机器拟人化。"

这两个观点合在一起传达出一个信号：我们对待AI的方式，将决定哪些企业能够在未来胜出。

与此同时，屡获大奖的调查记者、决策科学公司Decisive的创始人兼CEO Cheryl Strauss Einhorn强调："当锤子落下，砸中的是我们。AI不在乎。我们才是那些需要做出解释、承担后果的人。"这是一个清醒而有力的警示：我们与AI建立关系的方式，对于商业成败至关重要。

这三位专家共同强调，未来十年，我们与AI协作的方式，以及我们让AI参与哪些工作，将决定个人与企业的成败。对于CEO、董事会成员和高层政策制定者而言，在决定是否信任AI输出结果时，具备良好的人类判断力至关重要。

近期，Constellation Research的R "Ray" Wang与本文作者共同在每周播客节目DisrupTV上主持了与Vint、David和Cheryl的对话。这场节奏明快而极具深度的讨论，围绕以下几个核心问题展开：如何避免人类向AI下达指令（以及AI之间相互通信）时产生误解、如何判断是否应信任AI的输出结果，以及若AI行为出错或造成危害，应由谁承担责任。

Vint率先提出了主动防范指令混乱的必要性，他指出："我最担心的问题是智能体之间使用自然语言相互通信。我们不需要智能体相互误解，然后以光速而非人类速度执行错误指令。"

作为从最初的ARPANet到现代全球互联网全程参与的亲历者，Vint进一步强调了确定性程序与生成式AI都可能执行非预期操作的风险："程序，至少是那些确定性的程序，会按照你告诉它的去做。问题是，有时候你告诉它要做的事，并不是你真正想要它做的事。这就叫做Bug。"

在Vint观点的基础上，David进一步指出："我将治理定义为如何避免无序状态。我们必须有防止无序的机制，不仅针对人类，也针对智能体。"他还用一个生动的视觉比喻来描述当前的AI治理状态："这有点像1910年代的重演。那时我们还没发明交通灯，甚至还没想出停车标志、优先通行规则或人行道。"1910年代，纽约和芝加哥的街道上，有轨电车与私家汽车、行人和马匹并行——这与如今企业中各种云端AI模型、本地AI模型、人类用户和其他分析软件工具并存的局面，如出一辙。

Cheryl则提醒大家要认识自己默认的思维方式："我们每个人都有自己的'秘方'，那是我们做决策的方式，但大多数人其实并不清楚自己的秘方是什么。"为了在向AI下达提示时避免误解，了解自己的"秘方"至关重要。她在新书《人类优势：AI时代的明智决策》中进一步阐述："如果你要引导机器，你真正需要做的是花更多时间去探索自己的秘方……这样它就能真正为你量身定制，而不是给你别人的答案。"

在进一步解释"我们正在试图弄清楚它如何思考"这一观点时，Vint表示："我将它们视为一批可以与我们建立关系的新型工作者。在我看来，这非常像一个非常聪明的研究型智能体。"对于曾于2017至2020年担任"以人为本的互联网"联盟主席的Vint而言，这一表述体现出他认为AI不仅仅是工具，更是能够增强项目研究能力的数字同事。这一核心观察也指向未来工作的走向：激励和引导工作者（包括与人类协同工作的AI智能体）将变得越来越重要。

David从自己在情报界和美国联邦通信委员会的工作经历中汲取经验，谈到如何判断是否信任AI的输出结果时表示："在这个时代，社会的健康回应是：越来越不要轻信你看到的第一件事，除非你能交叉验证……这就是中央情报局的做法。"他本人有过亲身经历——曾面对数以千万计的机器人自动提交的评论涌入公共评论系统的局面，且必须记录所有提交的2300万条评论，无论发布者是人类还是数字机器人。对于迈向AI智能体时代的企业而言，判断智能体在何时能为客户互动带来真正价值至关重要。David领导IT团队在洪流中维系人类评论系统正常运转的经历，也时刻提醒我们：AI智能体既能放大人类声音，也可能干扰甚至掩盖人类声音。

Cheryl还强调了跳出局限、从更宏观视角审视AI的重要性："这不仅仅是某种新软件，这实际上是一种文化变革……是关于解决问题方式的变革。"她的观点与Vint和David所强调的内容相互呼应——在决定是否信任AI输出结果时，健全的人类判断力不可或缺，而人类与AI之间的良好"化学反应"，是区分有益AI关系与无效AI关系的关键所在。

在探讨人机成功协作的最后一个核心议题时，Vint、David和Cheryl共同回应了一旦出现问题应如何追责这一关键问题。

Cheryl用一个鲜明的对比来描述两种不同的AI使用风格："人们使用AI的方式大致分为两种——外科医生模式和兰博基尼车手模式。当我们向AI寻求帮助时，我们想要一个具体的答案……我们像外科医生一样使用它。"外科医生可能犯错，也可能在操作无误的情况下仍出现不良结果，使用AI同样面临类似风险。

谈到另一种AI使用方式，Cheryl继续说道："还有些时候……你面临一个高风险决策，需要经历一个完整的决策过程。这时候，你就是那个兰博基尼车手。"在这种如同驾驶高性能赛车般使用AI的场景中，熟练应对急弯、充分了解AI引擎的能力与边界，是避免"AI事故"的关键。

David还借用了航海中悬挂旗帜的规则来阐释责任归属："当一个AI智能体在执行任务时，它飞的是谁的旗帜？是哪个组织的旗帜？"在这个比喻中，若某组织部署了AI智能体，则在提供了合理指令的前提下，该组织也应为智能体的行为承担责任。他还观察到，在不久的将来，识别非合成数据将变得越来越困难："到2030年，地球上超过40%的信息将由AI合成生成……这将给CEO和董事会带来重大挑战。"

最后，Vint指出，个人和组织需要在事情出错时拥有寻求救济的途径："在各种情形下建立一种寻求补救的机制，可能是极具价值的举措，甚至是一种必要之举。"作为谷歌的首席布道师，Vint一直积极倡导此类AI治理方式，他和David也都肯定了Salesforce、谷歌等公司正在工作场所和客户场景中采取类似的负责任AI方法。

Vint还延伸了他与David共同关注的一个问题，即在区分AI生成内容与人类原创或人工筛选内容方面日益增加的挑战，他指出"失去对数字信息的访问权限是一个严重问题"，其中包括丢失用于解读数据的软件以及数据来源溯源的风险。

Vint警示我们"不需要智能体相互误解，然后以光速执行错误指令"，这一观点揭示出：无论是人类与AI之间的关系，还是AI与AI之间的关系，都将决定最终结果的好坏。Vint、David和Cheryl共同提炼出三个核心要点：

其一，避免对AI指令产生混淆；其二，建立判断AI输出是否可信的能力；其三，明确AI行为的责任归属机制。

三位专家还一致强调，成功的企业、社区和国家，将以"群体中的AI"为核心理念，认识到人类与AI之间基于意图与责任的网络化协作关系。Vint和David也都强调，我们需要超越图灵测试的框架，聚焦于能够放大个人与集体人类能力、帮助我们发挥自身优势的AI。

本文由LeadDoAdapt（LDA）Ventures首席执行官、加速器主席、史汀生中心杰出研究员David Bray博士联合撰写。

Q&A

Q1：Vint Cerf对AI智能体之间相互通信有什么担忧？

A：Vint Cerf最担心的是AI智能体之间使用自然语言相互通信时可能产生误解。他指出，智能体一旦误解指令，就会以远超人类的速度执行错误操作，带来难以控制的后果。他将此类风险类比为程序中的Bug——程序会按照你说的去做，但你说的未必是你真正想要的。

Q2：企业如何判断是否应该信任AI输出的结果？

A：David Bray建议采用"交叉验证"原则，不要轻信第一眼看到的信息，这也是情报机构的惯常做法。Cheryl Strauss Einhorn则提出了两种AI使用模式——"外科医生模式"寻求单一精确答案，"兰博基尼车手模式"则适用于高风险复杂决策场景。两者都需要使用者具备足够的判断力和对AI能力边界的清晰认知。

Q3：AI出现问题时，责任应该由谁承担？

A：三位专家一致认为，责任最终落在人类身上。Cheryl明确表示"当锤子落下，砸中的是我们，AI不在乎"。David借用航海旗帜的比喻指出，部署AI智能体的组织应为其行为负责。Vint则建议建立明确的救济和追责机制，以便在出现问题时能够有效应对。