急速发展的AI背后无法忽视的那些风险

几乎现在每个人都在讨论AI给人类带来的机会及影响，无论是降本增效，还是替代人类做重复的工作，甚至是某种意义上的预测未来，但是鲜有人去说AI的风险到底如何，前段时间刚出的新闻，包头一位老板，被人使用AI换脸技术诈骗了超过400万元，或许从这个标志性的事件开始，网络安全，AI安全会被人们逐渐重视起来。再来看国外，5月1日，“人工智能教父”、谷歌副总裁杰弗里·辛顿(GeoffreyHinton)离开谷歌，而其离开的原因则是因为担心类似于ChatGPT的AI聊天机器人会带来严重的危害，不仅仅是对人类，甚至是对环境，他从自身出发，认为只有退出谷歌才能更自由地对此发声。而之前的马斯克虽然心口不一的发展AI团队，但是也在访谈中说过“AI比核武器还要恐怖”。就当下来看，AI发展的大趋势已经无法停止，A股里AI相关概念已然是一飞冲天，我们作为投资者，关心的更多如何买股票赚钱，但是这些所谓的风险我们更应该警觉，以便于有所应对。那今天咱们就通过这篇文章来和大家聊聊AI迅速发展背后无法忽视的那些风险。

就当下来看，对AI的最大争议是源于当下主流AI的训练模式下产生AI的黑盒特性。因为就短时间内，人们是无法明确知道AI是如何认知世界，甚至是会不会自主的增强认知，如何去判断什么可以做什么不可以做，就如同我们无法通过获得他人的大脑来获取这个人的记忆一样，我们企图去了解一个人只能去和他持续的交流沟通，观察他的言行举止，面对AI我们也是一样。但问题在于，人类是善于伪装隐藏自己真实想法，但是仍然有迹可循，可怕的是我们现在暂时是无法判断AI是否也会隐藏自己的真实想法，如果在未来，AI会不会在学习的过程中学会了伪装和隐藏，而让人类无法察觉，从而用自主意识完成会危害人类的事情。

就依照当前的发展趋势和科技进步速度，AI的超高智慧和学习能力可能会存在让人类难以掌控的结局，而且当下的科技巨头们正在陷入一场无法停止的竞争之中，再也不是之前谷歌为主导时的谨慎发展态度，因为你停止就会被淘汰，这是无比残酷的现实。公司的激烈竞争会使AI更加飞速的发展，但这样很可能使得其带来人类无法预计的副作用和社会调节机制的明显动荡，而且这个是无法预防的，人类社会有可能带向无法控制的未来，而这种未来中，不排除人类将会失去对人类社会的控制能力。起初AI的风险可能只是使互联网上充斥着大量虚假的照片、视频和文字，普通人将再也无法辨别“真伪”，但是接下来一定会全面的颠覆就业市场，首先就会取代私人助理、翻译等需要死记硬背的职业，后面可能就会蔓延到老师，律师等高端职业，甚至未来某一天杀手级的应用的出现可能真的会改变现在人类的社会层级和社会关系，因为现在急于求发展的巨头们不仅允许AI自己生成计算机代码，还允许AI自己运行代码，而AI具有人类所难以企及的数据视角，AI常常因此自学到一些意想不到的行为，AI的大规模应用可能会使人类处于一种难以预判的潜在风险之中。

杰弗里·辛顿对AI发展的担忧和原子弹之父奥本海默后悔研发出原子弹可以说是如出一辙。原子弹虽然恐怖，但从某种意义上来说却避免了很多战争的发生，同时核能在能源和医疗方面的应用反而使相关领域产生了飞跃发展。现在我们对AI的担忧或许和当初对核武器的担忧一样，当一个新的技术可能对人类共同体产生威胁时，人类总能齐心协力以制度和法规去使这一技术在层层限制下更好地为人类服务。例如现在发展的最迅猛的生成式AI（AIGC, AI-Generated Content）会出现的风险就已经被专家总结了出来。首先是幻觉，幻觉是指AI模型容易犯的错误，因为尽管它们是先进的，但它们仍然不是人类，只是依赖训练和数据来回复答案。训练数据可能会导致有偏见或事实上不正确的反应，当人们依赖这些机器人获取信息时，这就会是一个严重的问题。其次是深度伪造，使用生成式AI来创建伪造的视频、照片和录音，但会拍摄另一个人的图像和肖像。这些虚假的图像、视频和录音被用来制造和传播误导性信息，甚至制造虚假账户，或者接管和侵入现有的合法账户。还有数据隐私问题，用户数据通常被存储用于模型训练。这些应用程序可能会无限期地存储通过用户输入捕获的信息，甚至使用信息来训练其他模型，这进一步损害了机密性。毫无疑问，版权也会是一个很大的问题，因为生成人工智能模型是在用于生成输出的大量互联网数据上训练的。这种训练过程意味着，原始源未明确共享的作品可以用于生成新内容。为了根据提示创建图像。人工智能生成工具将参考他们训练过的大型照片数据库。这一过程的结果是，最终产品可能包括艺术家作品或风格中不属于他们的方面。最后还有一个跟耐心寻味的声誉风险，因为当ChatGPT首次出现在公众视野时，Google高管最初以“声誉风险”为理由，表示不会立即推出与之竞争的人工智能。但几天后就撤回了声明，并宣布推出Bard。Bing和其他生成AI领域出现的错误和尴尬，证明了Google最初的担忧是有根据的。公众正在观望。当AI以不符合价值观的方式行事时，可能会导致公关灾难。新兴形式的人工智能已经表现得像一个种族主义者、厌恶女性的怪物，导致了错误的逮捕，并放大了员工招聘中的偏见。有时，人工智能会破坏人员关系。根据Forrester的数据，75%的消费者对客户服务聊天机器人感到失望，30%的消费者在人工智能驱动的客户服务互动不佳后将业务转移到别处。人工智能还很年轻，容易出错。然而，尽管风险很高，但我们希望许多商业组织在部署人工智能时，会完全了解所涉及的声誉风险。

说了这么多可能存在的风险，那对于AI来说，如此快速的发展从当前看到对会影响哪些行业呢？首先，如前文所说，AI是会存在偏见和歧视的可能。如果AI接受训练的数据中反映出了社会对某些群体的偏见，那么AI就可能对某些人群产生歧视判断，导致损害他人权益。其次，AI的普及势必会改变人类社会的生活结构，降低了工作的门槛的同时会使某些工作消失，自动化会大行其道，绝大部分的工作量快速降低，失业无可避免。对于教育来说，AI影响下的未来，当前的教育体系是不够的，创造力、沟通理解以及自我表达能力都有着更多要求，而这则很可能带来教育的相关革命。当然，隐私安全方面要求会更高更具体，人们会更加在意自己个人信息的安全性，AI运营商也会执着于数据获取，这里或许会给信息安全产品带来一片新市场。基于对更广泛大数据的分析，AI可能也会使传媒相关领域获得前所未有的传播力，对人们的意见、想法、行为都有可能具有超乎以往的操纵能力，或许之前顶级媒体人和政客也有这种能力，但这种能力的下放可能会产生难以想象的深远影响。

工业4.0已来，它是利用信息化技术促进产业变革的时代，也就是智能化时代。而人工智能必定会堪比工业1.0时代的蒸汽机，是具有时代鲜明特征的发明。人工智能从二十世纪五十年代启蒙发展至今，取得了长足的发展，当前已经从技术导入期进入到了发展期，正在渗透到各行各业之中，人类与AI相互依存的趋势已经不可逆转。所以，即使有潜在风险，也不应该过分强调这一技术中消极的一面，而是应该合力研究如何有效掌握和利用人工智能技术，探索与人工智能协同进化的机制，让人工智能最大限度地为人类服务。

就在本周，微软在Build开发者大会重磅宣布Windows 11操作系统重大更新，添加Copilot（副驾驶）AI助手，与此同时，人工智能开发机构OpenAI将开始使用Bing（必应）作为ChatGPT的默认搜索引擎。当AI即将给使用Windows操作系统的用户带来更多便利的同时，使用的风险将成几何倍数增加，这难道就是“痛并快乐着”吗？

AI已来，你准备好了吗？

注：本文素材来源于互联网公开渠道，如有侵权请联系删除。内容所述仅代表个人观点，不作为指导依据，据此操作风险自担！