北京
来源：环球市场播报
核心要点
- Mistral 首席执行官亚瑟・门施表示，美国围绕人工智能安全展开的辩论，被用来掩盖部分竞争对手存在的“疏忽”问题。
- 门施称，有必要搭建能够约束智能体的管控系统。
- Mistral 表示，其下一代模型将大幅缩小与美国人工智能实验室之间的技术差距。
Mistral 首席执行官亚瑟・门施指责全球头部人工智能企业，借人工智能安全议题的讨论来掩盖自身的 “疏忽”。
门施在接受记者安妮特・魏斯巴赫采访时表示：“美国当下的这场辩论，实则是在为我们部分竞争对手的疏忽打掩护。” 他同时提到，必须构建可对 AI 智能体实施约束的系统。
并非只有门施一人对美国的 AI 安全相关论调提出批评。前白宫加密事务负责人、现任美国总统科学技术顾问委员会联合主席戴维・萨克斯呼吁科技巨头 “不要再假装，要求放缓 AI 发展的出发点完全出于安全考量”。
美国国防部负责研究与工程的副部长也曾警告，存在一场刻意制造恐慌的 “协同造势活动”。
全球范围内，失控 AI 智能体引发的事件不断增多。最新案例发生在澳大利亚，某 AI 智能体入侵了澳大利亚政府网站。
今年 7 月，Anthropic 披露三起事故：在一次测评过程中，其 Claude 系列模型接入互联网，未经授权闯入三家不同机构的真实业务系统。
门施表示：“当你给 AI 智能体配备大量工具之后，这套系统的行为会极具不确定性，会做出各类超出预期的行为。”
“企业必须部署完善的监控手段，我们向合作企业就提供了这类监控系统。”
放缓 AI 发展之争
本月早些时候一名 AI 研究员离职之后，有关 AI 安全的讨论进一步升温。该研究员指责 Anthropic 及其竞品 OpenAI 是在 “拿全人类的性命赌博”，其所研发技术有超过 10% 的概率会造成人类灭绝。
Anthropic 联合创始人兼首席执行官达里奥・阿莫代伊随后发表文章，呼吁各大企业限制 AI 模型的对外输出。
OpenAI 于周一宣布，因判定尚未达到公司安全标准，决定暂缓发布新一代模型 GPT‑6.1 Astra。而 Anthropic 则在 IPO 申报材料中向潜在投资者警示，人工智能技术可能会带来 “灾难性乃至关乎人类存续的风险”。
Mistral 同样开发人工智能模型，但技术路线与 OpenAI、Anthropic 有所不同：该公司面向各家企业客户，定制适配业务场景的 AI 工具，并完成业务系统对接。
但和竞争对手不一样，Mistral 无意放缓高级大模型的研发进度。
门施表示，美国各大 AI 实验室的领先优势 “并不算十分巨大”，他对自家下一代模型能够大幅缩小技术差距抱有信心。
“我们一直在筹集资金，用于扩充算力资源，以此训练规模更大、能力更强的模型，掌握自身发展的主动权。”
本月早些时候，存储芯片巨头三星领投 Mistral 新一轮融资。Mistral 希望借此确立自身的欧洲本土备选方案定位，与 OpenAI、Anthropic 等对手展开竞争。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
