山东
IT之家 10 月 10 日消息，据美国 CNBC 9 日报道，谷歌前 CEO 埃里克・施密特发出严肃警告：AI 存在不可忽视的危险，而且极易被黑客利用。
他表示：“AI 可能出现扩散问题吗？绝对可能。”这种风险包括技术落入不法分子手中，进而被滥用或改作他用。
“有证据显示，无论是封闭还是开源的模型，都可能被黑客攻击并移除安全防护。在训练过程中，AI 学到很多技能，其中最糟糕的情况是，它可能学会如何杀人。”
施密特补充道：“所有主要公司都确保这些模型无法回答此类问题。做法正确，每家公司都是出于正确理由执行这一措施。尽管如此，这些模型仍有被逆向工程的可能，还有很多类似风险存在。”
AI 系统容易受到攻击，常见手段包括提示注入和越狱。据IT之家了解，所谓“提示注入攻击”即黑客在用户输入或网页、文档等外部数据中隐藏恶意指令，以欺骗 AI 执行不该执行的操作，例如泄露私人数据或运行有害命令。越狱则是操控 AI 的回答，使其绕过安全规则生成受限制或危险内容。
施密特表示，目前尚无完善的“非扩散机制”来控制 AI 带来的风险。尽管警告严峻，施密特对 AI 总体保持乐观，他认为这项技术的价值远未被充分认识。“在亨利・基辛格去世前，我与他合著了两本书，我们认为，一种并非完全属于我们、但在一定程度受控的外来智能出现，对人类意义重大，因为人类习惯处于食物链顶端。到目前为止，这一观点正在验证 —— 这些系统的能力将远超人类随时间的成长。”
他补充道：“GPT 系列最终带来了 ChatGPT 热潮，两个月吸引一亿用户，异常惊人。这显示了 AI 的力量。我认为 AI 被低估，而非被高估，我期待在五到十年内证明自己是对的。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
