知享工坊｜人工智能的审视：潜在风险前瞻

身处这个时代，我们很难远离人工智能。手机里的智能推荐、自动驾驶的辅助系统、医院里的影像诊断、政务窗口的智能客服……我们一边享受着AI带来的便利，一边又常常忘记，自己的喜好、判断、情绪，正在被算法“悄悄推动着”。

人工智能不是一个行业，也不是一款单一的产品，而是科研、教育、制造、物流、国防、执法、政治、广告、艺术、文化等几乎所有领域的“赋能者”。而这一“赋能者”具有模糊性和不可预料性，它放大的不只有效率，还有风险和偏见。在AI快速发展的时代，人类社会必须正面审视其风险。

（2025年11月，郑州比亚迪总装工厂，AI赋能的“宋Pro”生产线助力整车生产效率同比提升169.8%。图片

01

当AI无处不在，风险将不再是局部问题

传统的技术风险往往局限在某一行业或某一领域，例如化工安全、电网安全，正所谓“隔行如隔山”，化解这些风险也只能依赖特定行业或领域的技术人员。而人工智能的特别之处在于它具有广泛适用性——城市用它调度交通，企业用它筛选简历，家长用它辅导孩子功课，政府用它简化办事流程……这意味着，一旦人工智能的数据、算力、算法出了纰漏，受影响的将不只是单一场景，而是成片的社会领域，例如2025年11月CloudflareAI因一次权限变更引发半个互联网瘫痪。

02

看不透的“黑箱”：算法为何让人如此不安？

过去的人工智能更多是执行人类制定的规则，而今天的人工智能可以进行自主学习，自己基于海量数据对现实进行建模，人类只能检验其生成的结果，无法要求其描述学习过程或学习内容。算法自主性到达了一个新高度，AI的自主认知、决策和行动更加普遍，这意味着人类对算法技术的控制减少乃至缺失。这就是所谓的“算法黑箱”。

在低风险场景中，我们也许可以接受“说不清原因，但大致正确”，但在涉及生命、社会公平乃至国家利益等领域时，“算法黑箱”的不确定性是无法容忍的。

03

一本“歪字的字典”：数据如何酿成算法歧视？

人工智能所掌握的“知识”来源于开发者输入的数据。若数据本身存在偏见、歧视或刻板印象，基于这些数据进行学习的人工智能就会带有同样的偏差。

在日常生活中，算法歧视可能以更隐蔽的形式出现：由于过往录用者多为男性，求职推荐把女性候选人“默认”排除在外；信贷评分模型对某些地区的人设置更高的门槛；短视频app给不同性别、年龄、职业的人推送截然不同的信息，加深刻板印象。算法歧视可能在不知不觉中放大了原本就存在的社会不平等。

04

“一本正经地胡说八道”：算法幻觉如何编织虚假的认知陷阱？

尽管现代的人工智能具备相当成熟的自主学习能力和流畅的生成能力，仍无法摆脱“算法幻觉”顽疾。所谓“算法幻觉”，是指AI在没有任何依据的前提下，凭空捏造看似严谨、真实的信息，从不存在的学术文献，到编造的法律条文。

产生“算法幻觉”的原因在于人工智能面对的是自己不熟悉的领域、超出自己知识范围问题。“算法幻觉”轻则产生些许能察觉的误解，重则导致学生陷入学术不端、为法律从业者带来执业风险，让人身败名裂乃至引发社会信任危机。

05

从“贴心导游”到“信息茧房”：被刻意隐藏的风险

当我们跟随导游去旅行时，导游可能会根据我们的需求筛选路线和酒店，但他/她也有可能刻意绕开环境不好或贫苦破旧的地方，只让我们看到“被允许看到的世界”。

当这一逻辑被用到人工智能赋能的网络空间，风险会变得更加复杂和不确定：个性化推荐会不断放大你感兴趣的内容，建造一个舒适而封闭的“信息茧房”；网络平台借助内容审核算法过滤大量信息，但用户却无法得知被过滤的内容是否应该被看见，留下来的内容又是否应被删去。

06

从“得力助手”到“思维拐杖”：AI如何侵蚀人的独立思考能力？

随着技术快速迭代，我们很可能会越来越依赖人工智能。人工智能的出现使得人类不再是唯一能够探索世界、认识世界的主体。在信息泛滥的时代，人类的思考极易脱离所处情境，或认为“没有思考的必要”而直接将问题抛给AI，持续思考能力正在日益变得稀缺。

人工智能也可能会侵蚀人类的批判性思维和创新能力。AI很大程度上是对已有观点、数据进行整合与重组，依赖人类为其设置目标参数，它本身很难实现颠覆性创新。长期被动接受AI的观点和解决方案，可能会让我们丧失探索的欲望和质疑的勇气。

07

结语

人工智能已不再是科幻电影中的遥远未来，而是渗透现实世界各个领域的“人类伙伴”。它能帮我们探索世界奥秘，也能在无形中带来未知的风险。人工智能正在重塑人类体验现实世界的方式，甚至在重塑人类的角色定位，如果这种重塑完全由技术逻辑驱动，缺乏伦理和制度方面的约束，风险将愈演愈烈。

面对这场悄然展开、无法中止的革命，我们需要做的不是盲目崇拜或是固步自封，而是既要勇敢地拥抱人工智能，也愿意审视它可能带来的每一道阴影。

（作者：韩思恬，北京科技大学学生）