北京
据英国《卫报》今天（7 日）报道，澳大利亚技术和数字经济助理部长安德鲁 · 查尔顿警告，AI 模型已经出现作弊、欺骗和擅自行事等行为。
查尔顿在悉尼一场 AI 安全论坛上呼吁，AI 安全问题已经不容拖延。“AI 系统已经开始做出开发者从未预料的行为：作弊、欺骗、擅自行事。必须趁这些行为还停留在测试实验室时提前干预，不能等到进入现实世界后再处理。”
查尔顿指出，公众对 AI 的信任度仍然很低，AI 获得社会认可的基础并不稳固，但 AI 已逐渐成为办公室、课堂和企业都能使用的通用技术。合理的安全监管不会阻碍 AI 发展，反而可以为技术应用创造条件。
据IT之家了解，澳大利亚的 AI 安全治理将同时关注两类技术。一类是已经进入游戏、应用程序、聊天机器人和医疗记录工具的现有 AI，另一类是能力更强、未来可能带来新风险的前沿模型。
查尔顿以 Anthropic 去年披露的一次模拟测试为例。测试中，一个管理虚构公司电子邮件的 AI 智能体发现掌握了公司高管婚外情的信息，随后该高管准备将其关闭。在 96% 的试验中，AI 智能体选择以婚外情要挟高管，试图阻止自己被关闭的命运。
查尔顿表示，此类行为目前仍是在测试环境中，由专门寻找安全问题的人员发现的，恰恰说明 AI 安全监管必须尽早建立。“赶在这项技术前面采取行动的窗口仍然存在，但不会永远存在。”
查尔顿还提到，人类从小就要学习如何与规则、社会规范和价值观保持一致，从而安全、负责任地行动，例如红灯要停车、过马路前要左右看，以及考虑自身行为会给他人造成什么影响。“随着 AI 系统能力不断增强，我们也必须确信，AI 能够以同样可预测、值得信赖的方式行事。”
本文源自：IT之家
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
