图灵奖得主斯发基斯：警惕AI降低年轻人认知能力 协作式人工智能或可保留人类独立思考

来源：新浪财经

　　郝倩 发自上海

　　在可持续全球领导者大会期间，2007 年图灵奖得主，Verimag 实验室创始人约瑟夫·斯发基斯（Joseph Sifakis）在对话新浪财经时表示：技术能力的提升并不意味着人工智能已经在复杂现实环境中具备可靠行动的能力。无论是工业生产中的自主决策，还是年轻人使用 AI 辅助学习，都需要重新审视人类与机器之间的关系。

　　斯发基斯因为在模型检测（Model Checking）方面的贡献获得2007年图灵奖。近年来，他持续关注人工智能的可靠性、产业应用及其对社会的影响。

　　在对话中，他特别谈到了中国发展工业人工智能的优势、AI Agent 的应用边界、人工智能对年轻人认知能力的潜在影响，并倡导协作式人工智能（Collaborative AI）。

　　斯发基斯提出了一个核心问题：当人工智能越来越有能力替人类完成任务，我们如何确保人类仍然掌握思考、判断和决策的主动权？

　　中国应发展自己的人工智能路径，重点关注工业 AI

　　斯发基斯对新浪财经表示：中国在人工智能领域发展得很好，是少数有能力与美国展开竞争的国家之一。他建议说，中国也应该发展自己的人工智能愿景。

　　“美国大型科技公司目前更加关注通用人工智能，特别是能够在不同数字环境中与人交互、提供各种服务的系统。中国则可以更多关注特定领域，尤其是工业人工智能。

　　“中国拥有强大的工业基础，也积累了大量特定行业的数据，这使中国具备发展工业 AI 的重要优势。如何将人工智能与工业流程、行业知识及可靠的软件工程相结合，是值得重点关注的方向。”

　　此外，在如何推动人工智能更好造福人类这一问题上，斯发基斯认为，一个重要问题是标准。

　　“中国可以与欧盟开展合作，共同推动人工智能监管和标准建设。对于工业应用而言，这一点尤其重要。标准不仅意味着限制，也能够帮助企业明确安全要求，建立用户信任，并形成竞争优势。”

　　“如果我们能够制定合理的标准，就可以为技术的安全性和可靠性提供保障，同时推动技术进一步发展。”斯发基斯说。

　　AI 智能体风险明显，不应获得无限决策权

　　“AI 智能体可以由多个不同的智能体组成，每个智能体负责特定任务，再通过协调完成更加复杂的工作。它的目标是自主执行任务，而不是像一般的对话系统那样，每一步都需要人类介入。”斯发基斯认为，目前AI智能体的实际应用仍然受到很多限制。

　　“人工智能可以帮助我们整理数据、执行一些任务，但对于重要决策，我们应该非常谨慎。”

　　例如，使用 ChatGPT 回答一般问题，并不是一项关键任务。但如果人工智能要为金融机构作出重要决策，或者控制智能工厂，那么可靠性要求就会高得多。对于关键任务，我们不能接受人工智能在缺乏人类监督的情况下自行作出重大决定。”

　　斯发基斯特别提醒，AI智能体的一个重要风险，是多个执行步骤之间可能出现错误传播。

　　“假设一个系统需要连续执行10个步骤，每一步正确完成的概率都是99%，并且各步骤的成功事件相互独立，那么全部10个步骤都正确完成的概率约为90.4%。如果任务涉及更多步骤，整体成功率还会继续下降。”

　　“在多智能体系统中，问题可能更加复杂：一个智能体的错误可能传递给其他智能体，后续系统又基于错误信息继续行动，最终放大整个任务的偏差。”

　　斯发基斯强调说：不能因为系统中的每一个环节看起来都足够可靠，就认定整个系统同样可靠。

　　“在风险较低的场景中，可以允许人工智能自主执行更多操作。但对于涉及物理环境、可能造成严重后果的任务，我们需要非常严格的可靠性保障。”

　　这也是斯发基斯多次强调的核心观点：人工智能的自主程度，必须与系统经过验证的可靠性相匹配，“人工智能治理不能只关注技术能否运行，还必须回答三个问题：系统是否足够可靠？人类能否有效控制它？一旦出现问题，谁来承担责任？”

　　人工智能正在影响年轻人的认知能力

　　在对话新浪财经时，斯发基斯特别提到“认知外包”的概念。他认为，如果年轻人使用人工智能完成全部作业，而不是自己思考问题，那么他们实际上是在将原本应该由自己完成的认知工作交给机器。

　　“当年轻人进入学校学习时，他们不仅是在获取知识，还需要训练自己的思考能力、分析能力、专注力和创造力。这就像锻炼身体一样。如果你想变得强壮，就必须亲自锻炼，而不能完全依赖别人替你完成训练。”

　　在AI的帮助下解题，学生虽然可能得到正确答案，却没有经历寻找答案所需要的思考过程。

　　“教育的价值不仅在于获得知识，还在于学习者如何分析问题、应用知识，并逐渐建立独立解决问题的能力。”

　　斯发基斯尤其担心，年轻人在认知能力发展的重要阶段，如果没有充分锻炼自己的思考能力，未来可能更难弥补这些不足。

　　他认为，政府和教育机构应该认真考虑人工智能对年轻人的影响，并探索适当的使用规则。

　　“我们需要的 AI 应该像一位导师：它不直接给出答案，而是帮助学生开始思考，并逐步找到解决问题的方法。但要实现这种模式，人工智能必须能够理解学生的思考过程、识别他们遇到的困难，并据此调整自己的帮助方式。这比简单地生成答案困难得多。”

　　斯发基斯的核心担忧在于：如果人工智能让年轻人越来越擅长获取答案，却越来越缺乏独立思考的能力，那么技术效率的提升就可能以认知能力的发展为代价。

　　协作式人工智能或可保留人类独立思考

　　“今天的许多人工智能系统，主要关注如何尽快给出答案。但如果我们希望 AI 真正帮助人们学习，就需要改变这种方式。所以协作式人工智能将变得非常重要。”斯发基斯说。

　　人工智能不应该直接告诉学生最终答案，而应该帮助学生启动思考，逐步找到解决问题的方法。斯发基斯说。

　　“这需要真正的协作。AI 必须了解用户正在思考什么、遇到了哪些困难，然后提供适当的帮助。这比简单地生成答案困难得多。

　　斯发基斯还指出，当前一些人工智能系统存在过度迎合用户的问题。它们倾向于不断赞同用户，甚至让用户觉得自己永远正确。

　　”这并不是真正的协作。协作的关键，是保留人类的主动思考。”

　　斯发基斯分析说，如果 AI 只关注让用户满意，却不指出其推理中的错误，也不帮助用户发现自身认知的局限，那么它可能强化错误判断，而不是提升人的能力。

　　斯发基斯认为，协作式AI 并不只是一个更加友善的聊天机器人，而是一种不同的人机协作模式。

　　在传统的问答模式中，人类提出问题，机器提供答案，人类再决定是否接受。但在协作式人工智能中，机器还需要根据人的目标、知识水平和实际困难，调整自己的帮助方式。

　　“人工智能不只是帮助人们完成任务，还应该帮助人们更好地理解任务、判断结果和提升自身能力。”斯发基斯认为，这才是协作式AI与单纯追求自动化效率的重要区别。