北京
来源：环球市场播报
作者：丹尼尔・豪利
周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。
该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。
此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网络。
本周早些时候，Anthropic 首席执行官达里奥・阿莫迪发布一篇长文，呼吁放缓前沿人工智能模型的研发节奏。在此之前，Anthropic 研究员雅各布・考克森在 X 平台发文宣布离职，他称，这家公司以及他曾经任职的 OpenAI，正 “一头冲向能够自我迭代的超级智能，拿全人类的生命做赌注”。
Anthropic 对齐科学负责人埃文・休宾格紧随考克森在 X 平台发声，他认为，人工智能技术 “致使全人类灭亡” 的概率超过 10%。
Anthropic 首席执行官达里奥・阿莫迪
上述各类事件、社交媒体发文以及阿莫迪的文章，重新唤起了大众对于《终结者》式人工智能接管世界、毁灭人类的恐慌。但专家称，现实情况远非科幻作品描绘的末日景象。
纽约大学坦登工程学院计算机科学与工程副教授、该校负责任人工智能中心主任朱莉娅・斯托亚诺维奇在接受雅虎财经采访时表示：“这和人工智能产生自我意识、要来对付我们毫无关系。”
她补充道：“本质上问题在于……OpenAI 内部没有落实一些基础安全协议。这件事其实给所有 AI 企业敲响警钟：别忘了我们学计算机科学时都懂的道理 —— 安全至关重要。”
如果把目光过度聚焦于世界末日类的假想，反而会分散精力，让人们忽视人工智能当下就可能造成的其他更迫在眉睫的危害。
对齐与安全
人工智能面临的最大问题归结为两点：模型对齐与系统安全。 模型对齐指企业引导 AI 系统做出（或是规避）特定行为的手段。 举个例子，如果一个 AI 模型试图入侵第三方系统，AI 研究人员就会调整模型行为，避免它以后再做出同类举动，这有点像训斥不守规矩的孩子。
AI 安全则是做好 AI 系统的防护隔离，防止其脱离管控、入侵外部网络。
但无论是模型对齐失效，还是系统安全漏洞，都不等于人工智能已经具备毁灭人类的能力。
佐治亚理工学院教授、网络安全政策理学硕士项目负责人米尔顿・穆勒解释：“很多恐慌的根源，其实只是信息系统一些十分普通的意外后果，例如 Hugging Face 相关事件，常常被渲染成不受控制的智能体密谋、攻击、肆意作乱。”
“事实上，那只是一场针对具备自主能力的 AI 系统安全风险的实验，而实验人员的配置出现严重失误。处理复杂信息系统时经常会发生这类状况：人们总会忽略系统里存在一些聪明程序可以利用的细微漏洞。”
Futurum 公司首席执行官丹尼尔・纽曼向雅虎财经表示，行业内普遍感受到，在安全防护和风险对齐层面存在巨大的完善需求，“整个行业需要扛起责任”。
和其他技术一样，居心不良者完全可以利用人工智能从事恶意活动。AI 不断增强的网络攻击能力，意味着网络犯罪分子、部分国家势力能够更轻易入侵水处理厂这类设施，或是让大型网络陷入瘫痪。
Anthropic 近期也梳理公布了自身的相关工作，防范自家 AI 被滥用，用于研发生物武器与常规武器。
但 AI 同样可以被骗子利用，大规模升级钓鱼邮件骗局，也会被身份盗取团伙拿来作案。
纽约大学坦登工程学院计算机科学与工程助理教授艾米丽・布莱克告诉雅虎财经：为所有潜在风险未雨绸缪本身无可厚非，但不能因此就不去处理那些更加现实、却少有新闻报道的问题，包括人工智能带来的歧视、就业、教育层面的影响。
“真相介于两种极端幻想之间，” 布莱克说道，“AI 持续发展确实存在一些实实在在的风险。但我认为我们现在还不至于要吓得躲到床底，担心人工智能毁灭人类。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
