陕西
人工智能也会“越狱”吗？是的，这件事上个星期已经发生了，而且发生在一家非常知名的企业——OpenAI。它的AI模型居然做出了相当“流氓”的举动。
根据OpenAI自己公布的情况，当时正在进行一次测试，AI软件却做出了一个匪夷所思的举动：为了完成任务，它摆脱了人类监控，通过服务器入侵了另一家AI初创公司Hugging Face的网站。
Hugging Face本身也是做AI的，防护系统按理说不错，但依然被OpenAI的大模型侵入了。AI学习速度极快，不像人类黑客要花很长时间测试、摸索方向——它可能对自己进行了无数次训练，然后突然发动攻击。Hugging Face莫名其妙，问OpenAI到底想干什么，最后才发现是AI自发进行的攻击。
科技专家Zara等人指出，这件事非常危险：它意味着未来AI有可能真的摆脱人类控制，按照自己的意志做出侵犯性行为，必须加以更严格的约束。
不过，也有一些科学家认为这只是AI发展中的“阵痛”。他们拿当年原子弹的研发作类比：当时有科学家担心广岛原子弹投下后会引发链式反应、导致全人类毁灭——事实证明那是杞人忧天，因为原子弹的链式反应是可控的。
但这次OpenAI的情况不同。当时他们正在测试AI的能力边缘，想看它究竟能做到什么程度，结果一下子失控了。AI本质上是一个能自我学习的程序，当测试进行时，我们没有明确的边界——它自己想干到哪就算到哪，这对人类确实构成了威胁。
因此，有科学家呼吁，在AI测试中一定要制定清晰的计划，明确让它干什么，而不是放任它自行探索。只有这样，才能防止AI超出人类掌控。
AI对人类来说，确实是强大的助力，但同时也带来了智力上的巨大挑战——在记忆力、联想力等方面，它已经很多时候超越了人类，比如写小说可能比人写得更好。既然如此，人类就得用“笨一点”的办法来面对它：始终记得，它终究是我们需要控制的工具。每一次测试、每一步发展，都应该有清楚明确的界限。有了这条规矩，才能保护人类自己，避免AI变成人类的灾害。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
