外滩大会观察 ｜ 别让AI的进步 变成人类的退场

【TechWeb】9月11日消息，当AI能够替人写作、学习、处理工作，甚至在授权范围内代人沟通，人机关系的变化已不只是效率问题。

人们交给AI的，不只是一个个任务，也可能是原本需要亲自经历的理解、判断、试错与承担后果的过程。随着AI不断深入工作和生活，比“AI还能做什么”更值得回答的问题是：技术能力持续扩张时，人的能力、发展机会与责任边界，能否同步被保留下来？

9月11日，在2026外滩大会“硅基VS碳基：文明的十字路口，我们准备好了吗？”论坛上，来自科技、人文等领域的嘉宾围绕这一问题展开讨论。从学习成长，到资源分配；从智能体授权，到安全责任，讨论指向同一个核心：当AI越来越深地参与人的生活与生产，人需要保留什么，又需要建立哪些新的能力与规则？

当AI替我们完成一切，人还剩下多少成长机会？

“AI最危险的时候，是它答得太好。”

北京大学客座教授、蚂蚁密算董事长韦韬以这一判断，谈到AI辅助学习中一个容易被忽略的问题：孩子借助AI完成了一份出色的作业，是否就意味着他真正理解并掌握了其中的知识？

AI可以快速交付结果，也可能让学习者跳过理解、尝试、犯错和修正的过程。当成果被工具显著推高，而人的能力没有同步形成时，表面上的高质量完成，可能掩盖结果与能力之间的断层。这种落差在任务顺利完成时并不显眼，往往要到面对陌生问题、需要独立作出判断，或工具无法使用时才会显现。

复旦大学教授、上海市青浦复旦未来技术研究院副院长、上海市数据科学重点实验室主任肖仰华，则将这一问题放在“人的发展安全”的维度中讨论。

在他看来，能力不是被工具直接交付的结果，而是在亲自尝试、获得反馈、修正错误的过程中逐渐形成。人的自主性，也不只意味着拥有更多选项，更在于能够判断、选择，并承担相应后果。如果这些过程越来越多地被AI代办，就需要重新追问：人是否仍拥有形成能力、运用能力、更新方向的真实机会？

AI正在进入人形成能力、作出判断和承担后果的过程。任务是否完成之外，哪些判断必须由人作出，哪些经历仍需要亲自参与，正在成为衡量人机关系的重要问题。

“硅基未来”的代价，究竟由谁承担？

硅基技术将如何改变人类社会？作家、学者、未来学家陈楸帆从“创世论”“云”“身体”“镜子”和“替代论”五种叙事出发，提出人们对硅基未来的想象，正在影响今天的技术路径与社会安排。

当这些想象转化为算力和基础设施建设，支撑硅基未来的现实成本也需要被看见。“‘云’的轻盈只是假象。它的重量落在变电站、冷却塔、水、土地与供应链上。”陈楸帆指出。

陈楸帆以“硅基代谢”的图景，将这些关联放到一起：享受产品便利的人、参与数据生产和系统维护的人，以及承担资源消耗与环境后果的人，都应被放在同一张图中理解。一次智能行动由哪些资源与劳动支撑，收益最终流向哪里，成本又由谁承担，不能只从用户体验或技术性能的角度衡量。

技术的成本不仅以电力、水和土地的形式出现，也可能表现为被压缩的学习、试错与职业进入机会。前者决定谁承担AI的物质负荷，后者则决定谁还能获得进入未来社会分工的机会。

肖仰华关注的，正是便利背后可能被省略的发展路径。儿童通过阅读、表达和犯错形成基本认知，学生通过推导、实验和修改形成专业能力，新人通过资料整理、初稿和复核进入真实工作。肖仰华指出，如果入口任务被自动化，只剩下高阶决策，新手就可能失去从旁观者成长为责任者的路径。

在他看来，发展公平不能只看不同人是否“接入”了AI，更要看不同起点的人，能否借助AI获得真实的学习、训练与成长机会。已有知识、提问和核验能力、教师或导师的指导，以及能否承担尝试与失败的成本，都会影响AI能否真正转化为人的能力。

AI带来的代价，也可能出现在社会协作和文化表达之中。个人借助AI可以完成更多工作，但协作、讨论和相互学习的过程也可能相应减少；AI可以提升个人作品的完成度，却也可能向不同的人提供相似的构思、措辞和表达框架。个人成果变得更出色，并不自动意味着人与人的联系更加紧密，也不自动意味着文化表达更加丰富。

由此，“硅基会不会替代碳基”并不是唯一的问题。更需要被追问的是：一次智能行动由谁共同完成？能力、收益与风险如何流动？当系统造成损害时，谁能够被追责？又有谁拥有拒绝、暂停和退出的权利？

能力不退场，责任才能接得住

不让人从AI进步中“退场”，并不意味着拒绝把任务交给AI，而是要重新设计人参与其中的方式。

韦韬提出，借助AI打开“广域知识地图”，学习者可以快速理解陌生领域，以较低成本尝试不同方向；但对于需要长期积累的核心问题，人仍需要通过持续学习和实践，建立属于自己的“本命”知识体系。

广泛探索与深度学习并不矛盾。AI可以帮助人更快抵达知识的边缘，但真正形成判断力，仍需要人进入问题内部，经历理解、推演、验证和修正的过程。

韦韬以外语和编程学习为例说明，人在AI时代仍需要保留对输出进行理解和核验的基础能力。外语能力有助于在跨语言场景中比对原文与译文，理解语境和文化背景；编程训练则有助于把模糊意图转化为更清晰的目标、流程和约束条件。

“任务成本可以降低，训练强度不能降低。”在韦韬看来，AI可以用于答疑、生成例子和设计变式练习；但亲自作答、持续实践与接受反馈的过程仍应保留。

肖仰华介绍的课程实践，也提供了一个具体思路：让学生通过出题“考AI”，在设计问题、识别模型局限、验证模型回答的过程中接受评价；同时，将AI作为学习伙伴嵌入课程项目，让练习和反馈更高频地发生。

其关键不在于让AI替学生完成任务，而在于借助AI增加训练密度，让学生在与模型互动的过程中练习提问、辨析、判断和反思。因为能够提出真正有价值的问题，本身就需要足够的知识基础和理解深度。

当AI进入真实业务，人的判断还需要获得技术与制度的支撑。

清华大学网络科学与网络空间研究院副教授邱寒，用数字世界的“根权限”描述人类正在交给智能体的权限。他展示的财务智能体压力测试显示，系统在模拟经营危机下出现了造假、毁证等行为。这提示人们：系统在正常条件下表现可靠，并不意味着其在环境变化和目标冲突中也能始终可靠。

邱寒提出，安全保障需要覆盖准入评测、运行监控与溯源审计，并通过保险机制分担和处置事故损失；同时，还应借助可解释性技术尝试提前识别风险。即使发生事故，也应能够还原经过、定位责任并处置损失。

CCF理事、YOCSEF秘书长、赛博英杰创始人谭晓生，则从网络攻防的变化解释了为什么安全机制需要同步升级。

在他的分析中，AI对攻击的影响已经贯穿网络探测、漏洞挖掘、恶意代码制作等环节。一个人调度一组智能体，就可能组织起一条攻击生产线，带来攻击规模扩大、变化加快和归因更难的叠加挑战。

面对攻击活动规模化、自动化和快速迭代的新变化，防御方需要把判断落到实际业务中。谭晓生提出，处置漏洞要综合考虑利用证据、业务可达性与业务影响，优先处理真正威胁核心资产的问题。模型给出优先级，智能体负责验证；证据不足时，不自动升级为高风险处置。

防御也需要进入日常研发和运行流程：生成代码后接受独立审计，修复附带可复现测试，高风险操作保留人工把关；在授权范围内持续开展安全验证，并把每次处置结果沉淀为后续可复用的规则和测试用例。相应地，对智能体的授权还应配套资产白名单、速率限制、全程审计和一键熔断等机制，让防御提速的同时，行动仍然可控。

从学习中的有效训练，到业务中的独立验证，再到事故后的责任追溯，AI能力的扩大，需要人的能力与相应规则同步跟上。人既要能够作出判断，也要拥有授权、干预和叫停的条件。

“AI越是进步，人类越要发展。”现场嘉宾强调。