网易首页 > 网易号 > 正文 申请入驻

Meta 发布前沿 AI 框架:会暂停开发其认为风险过高的 AI 系统

0
分享至

IT之家 2 月 4 日消息,Meta 公司首席执行官马克・扎克伯格曾承诺,有朝一日将把通用人工智能(AGI)—— 即能够完成人类所能完成任何任务的人工智能 —— 公开提供给大众。然而,根据 Meta 最新发布的政策文件,该公司在某些情况下可能会限制其内部开发的高性能人工智能系统的发布。

这份名为“Frontier AI Framework(前沿人工智能框架)”的文件,明确了两种 Meta 认为发布风险过高的 AI 系统类型:“高风险”系统和“关键风险”系统。按照 Meta 的定义,这两种系统都具备协助实施网络攻击、化学攻击和生物攻击的能力,区别在于“关键风险”系统可能导致“在拟议的部署环境中无法缓解的灾难性后果”,而“高风险”系统虽可能使攻击更容易实施,但不如“关键风险”系统那样可靠或稳定。

IT之家注意到,Meta 在文件中列举了一些具体攻击场景,例如“对遵循最佳实践保护的企业级环境进行端到端自动化入侵”以及“高影响力生物武器的扩散”。Meta 承认,其文件中列出的潜在灾难性事件远非详尽,但这些是 Meta 认为“最紧迫”且最有可能因发布强大 AI 系统而直接引发的事件。

值得注意的是,Meta 在评估系统风险时,并非仅依赖单一的实证测试,而是综合内部和外部研究人员的意见,并由“高级别决策者”进行审查。Meta 表示,这是因为目前评估科学尚未“足够强大,以提供决定系统风险性的明确量化指标”。

如果 Meta 判定某个系统为“高风险”,该公司将限制系统在内部的访问权限,并在实施风险缓解措施以将风险降至“中等水平”之前,不会发布该系统。而如果系统被判定为“关键风险”,Meta 将采取未具体说明的安全防护措施,防止系统被非法获取,并暂停开发,直到系统能够被降低危险性为止。

Meta 表示,其“前沿人工智能框架”将随着人工智能领域的变化而不断演变。此前,Meta 已承诺在本月的法国人工智能行动峰会上提前发布该框架。这一框架似乎是对公司“开放”开发系统方法受到的批评的一种回应。Meta 一直采用将人工智能技术公开提供(尽管并非通常意义上的开源)的策略,这与选择将系统置于 API 背后的 OpenAI 等公司形成对比。

在文件中,Meta 表示:“我们相信,在考虑开发和部署先进人工智能的利弊时,有可能以一种既能保留该技术对社会的益处,又能保持适当风险水平的方式,将该技术提供给社会。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
63位“最懂长寿”的专家一致选出:决定长寿的3件关键事,居然这么简单

63位“最懂长寿”的专家一致选出:决定长寿的3件关键事,居然这么简单

环球网资讯
2026-11-14 07:45:05
泽连斯基:美国曾询问乌克兰是否愿意以顿巴斯地区换取加入北约的资格;乌克兰不愿从自己的领土上撤退,需要安全保障、强大军队和重建资金

泽连斯基:美国曾询问乌克兰是否愿意以顿巴斯地区换取加入北约的资格;乌克兰不愿从自己的领土上撤退,需要安全保障、强大军队和重建资金

极目新闻
2026-11-15 10:18:43
月薪五万是什么体验?

月薪五万是什么体验?

康富贵碎碎念
2026-11-16 13:15:52
张怡宁参加婚礼哭了,64岁丈夫一直咳嗽,看着很老,还是袁立前任

张怡宁参加婚礼哭了,64岁丈夫一直咳嗽,看着很老,还是袁立前任

一娱三分地
2025-06-11 20:53:37
泽连斯基:普京生活在另一个现实里!我不认为特朗普是“克拉斯诺夫”

泽连斯基:普京生活在另一个现实里!我不认为特朗普是“克拉斯诺夫”

鹰眼Defence
2026-11-15 17:13:26
河北滦南通报“800多万元建的污水处理厂4年未启用”:成立市县联合调查组

河北滦南通报“800多万元建的污水处理厂4年未启用”:成立市县联合调查组

界面新闻
2026-11-16 13:37:26
宏远速递!陈老板最新决定,又一强援将加盟,徐杰深夜发声!

宏远速递!陈老板最新决定,又一强援将加盟,徐杰深夜发声!

体坛卡卡说
2026-11-16 15:24:45
11月16日人民币对美元中间价调升11个基点

11月16日人民币对美元中间价调升11个基点

证券时报
2026-11-16 09:36:04
前国脚曝蓉城丢冠内幕:高层代替主帅定首发!3人被废,蒿俊闵上看台

前国脚曝蓉城丢冠内幕:高层代替主帅定首发!3人被废,蒿俊闵上看台

念洲
2026-11-16 09:38:40
太罕见了!日媒曝出2004年黄乐生活旧照,彼时二十多岁素颜随性,网友:典型的湖南乡下妹子

太罕见了!日媒曝出2004年黄乐生活旧照,彼时二十多岁素颜随性,网友:典型的湖南乡下妹子

火山詩话
2026-11-13 15:21:47
MVP概率已断崖第一!东契奇一战又造9纪录 8连胜场均41+9强到发紫

MVP概率已断崖第一!东契奇一战又造9纪录 8连胜场均41+9强到发紫

颜小白的篮球梦
2026-11-16 10:08:32
突发异动!000533,直线涨停!

突发异动!000533,直线涨停!

证券时报
2026-11-16 11:54:26
杨瀚森取消开拓者认证!离队或进入倒计时,这八天到底发生了什么

杨瀚森取消开拓者认证!离队或进入倒计时,这八天到底发生了什么

大鱼简科
2026-11-16 14:21:58
穆帅的眼光太准!皇马球迷正在认知到穆帅早已知道的一点:库库雷利亚名气不耀眼,防守很硬核,能给皇马左路带来底气!

穆帅的眼光太准!皇马球迷正在认知到穆帅早已知道的一点:库库雷利亚名气不耀眼,防守很硬核,能给皇马左路带来底气!

福酱的小时光
2026-11-16 07:46:41
一场2-3,让世界第1轰然倒下:43场不败纪录终结,凯恩点射破门

一场2-3,让世界第1轰然倒下:43场不败纪录终结,凯恩点射破门

足球狗说
2026-11-16 05:58:08
“家长没钱,孩子才会沉迷手机”,一段高尔夫视频让人沉默了,中产晒孩子打高尔夫暗讽“沉迷手机是因为穷”

“家长没钱,孩子才会沉迷手机”,一段高尔夫视频让人沉默了,中产晒孩子打高尔夫暗讽“沉迷手机是因为穷”

蝴蝶花雨话教育
2026-11-14 00:05:16
陈百祥回应谭咏麟蟹宴没请他:我吃蟹的时候也没叫他

陈百祥回应谭咏麟蟹宴没请他:我吃蟹的时候也没叫他

情感大头说说
2026-11-16 02:53:25
69岁赵本山进录音棚,把AI替他唱的歌亲自唱了一遍!3小时点赞破百万,网友:这一嗓子仿佛又回到小时候

69岁赵本山进录音棚,把AI替他唱的歌亲自唱了一遍!3小时点赞破百万,网友:这一嗓子仿佛又回到小时候

都市快报橙柿互动
2026-11-15 21:11:29
热4连胜:因为维金斯替补了?

热4连胜:因为维金斯替补了?

张佳玮写字的地方
2026-11-15 17:36:21
中纪委打“虎”,王忠林被查!上周三“虎”被公诉

中纪委打“虎”,王忠林被查!上周三“虎”被公诉

上观新闻
2026-11-16 13:16:44
2026-11-16 16:31:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379512文章数 607735关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中俄美三国元首历史上将首次面对面会晤 外交部回应

头条要闻

中俄美三国元首历史上将首次面对面会晤 外交部回应

体育要闻

热火4连胜:就因为维金斯替补了?

娱乐要闻

43岁佟丽娅官宣新身份担任职务不一般

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

日产终于开窍了!全新NV200 PHEV才是露营党的梦中情车?

态度原创

本地
教育
游戏
旅游
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

日常英语:公交车上问路

《GTA 6》登Fami通封面!32页特集+R星历史专题

旅游要闻

128米高空转30分钟,苏州之眼看尽金鸡湖

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版