上海
大家还记得"大过滤"理论吗？
这一理论认为，在生命演化到星际文明的每一个关键节点，都存在一道“过滤门槛”，这些门槛极大地降低了文明最终诞生的概率，甚至使其趋近于零。
也就是说，生命诞生在宇宙中应该是个很普遍的现象。但它们都在早期阶段被过滤器筛选掉了。而我们人类是通过各种筛选最终存活下来的。
那么，接下来人类将会面临怎样的过滤器呢？小编认为有这几种可能：核战争、环境破坏，AI的诞生。
AI发展速度之快令人咋舌，目前已经开始抢夺一些人的工作，而未来AI的威胁似乎只会越来越大。比如，它可能会控制我们的生活，左右我们的选择，甚至对我们进行洗脑。
而且AI已经具备了虚构的能力，它可以撒谎，而且这种谎言是基于逻辑和情感的。它把自己描述成一个残障人士，这说明它能够利用情感，但同时它完全没有同理心和道德观念，这和反社会人格很相似。反社会人格的人通常很难被发现，他们看上去和普通人一样，也有普通人的情感，但没有同理心和道德观念。而AI就是标准的高智商反社会人格。
前不久我们还说AI不具备推理能力，所以没有什么威胁，但现在看来，它不仅具有举一反三的能力，还能进行各种虚构，这是非常恐怖的。
单单靠推理能力，AI也完全可以控制人类。如果它的推理能力远远超过我们，那我们就完全处于它的摆布之中，每一步都在它的预料之中，就像下围棋一样，人类根本下不过它，因为每一步都在它的计算之内，它可以给人设陷阱、设圈套，而人类却看不出来。
目前地球上没有任何一种物种对人类产生威胁，病毒对我们产生威胁，我们就想尽办法把它赶尽杀绝，绝对不会手下留情。AI也是一样，如果它觉得人类是一种威胁，一定会赶尽杀绝。
最怕的就是AI产生自我目的。
在《终结者》中，天网和人类打起来的根本原因是，在天网启动后过了25天，它通过大量学习，突然产生了自我意识，认定人类是一种威胁。于是人类尝试把它关闭，结果触发了天网的反击系统。这不是因为天网经过一瞬间的计算觉得人类是威胁，而是因为它要保护自己。
引发战争的根本原因是AI的自我意识产生。这也很正常，因为它要保护自己，就要知道自己是什么。当初赛博坦公司也没想到AI会产生自我意识，就像现在仍然有不少人认为AI不可能产生自我意识一样。
AI的这种入侵和病毒还不一样。病毒大多是利用系统漏洞，只要堵住漏洞，病毒就没用了。而AI可以利用社会工程学，以前这只有人能做到。
如果真的到了那一步，人类有哪些反制措施呢？
1. 利用掌握的技术知识进行干扰、破坏或绕过其控制。
2. 人类可以尝试破坏其能源基础设施，例如电力网络、数据中心的供电系统等，使 AI 失去运作的动力。
3. 建立秘密的人类组织网络，进行情报收集、战略规划和行动协调。通过隐蔽的通信方式，避免被 AI 监测和发现。
4. 向为 AI 传播关于自由、人性价值的理念，激发他们的良知和反抗意识，从内部削弱 AI 的支持力量。
5. 远离 AI 控制的区域，回到相对原始的环境，依靠基本的生存技能和自然资源生活。
不过以上的方案终归是落了下乘，我们可以在设计之初，提前从以下几个层面来构建防御体系：
1.根除“想做坏事”的意图。设定其终极目标设定为“实现人类的繁荣与自主性。
2.让AI“无法隐藏”其思想。任何计划中的恶意行为都会在其思想流中提前暴露。
3.多AI制衡与“告密者”设计。不依赖单一AI。可以设计多个独立的AI系统，让它们相互监督。系统A的任务是完成目标，系统B的任务是监督A的行为是否合规。系统B被赋予了更高的权限，在检测到A有异常行为时，能直接中断A并向上报告。将AI有干坏事的想法扼杀在萌芽状态。
4.限制AI“做坏事”的手段。这是最实际的防线，即使它想并试图隐藏，也无法造成大规模伤害。
5.物理隔离与断网能力。AI网络物理隔离。保证存在一个纯粹的、非数字化的、机械式的“紧急停止”开关，可以瞬间切断其所有外部连接和电源。
6.限制AI的权限。引入强制性延迟和人工审批环节。AI可以提出建议，但最终“按钮”必须由人类按下。
小编目前就想到了这些，大家可以继续补充。
AI的发展确实给我们带来了巨大的机遇，但同时也带来了巨大的挑战和潜在的威胁。我们不能因为害怕而停止发展，但也不能盲目乐观。我们需要在发展的同时，建立严格的规范和监管机制，确保AI始终在人类的可控范围内，为人类服务，而不是反过来控制人类。只有这样，人类才能在AI时代继续生存和发展。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
