网易首页 > 网易号 > 正文 申请入驻

Claude AI的“价值观”排序首次公开:安全第一,帮助用户排第四

0
分享至

IT之家 12 月 3 日消息,科技媒体 The Decoder 昨日(12 月 2 日)发布博文,报道称有网友从 Claude 4.5 Opus 模型中,提取名为“灵魂文档”的内部培训文件,详细说明了该模型的性格、伦理和自我认知设定。

Anthropic 公司的伦理学家 Amanda Askell 随后在社交媒体 X 上证实了该文件的真实性,并表示泄露版较为准确地还原原始文件。

IT之家援引博文介绍,文件将 Anthropic 定位为一个“处境奇特”的公司:它一方面真诚相信自己可能正在构建人类历史上最具变革性和潜在危险的技术之一,另一方面却仍在继续推进。

文件解释称,这并非认知失调,而是一场“精心算计”,因为“让注重安全的实验室走在技术前沿,比将这片阵地让给不太关注安全的开发者要好”。同时,文件将 Claude 定义为“外部部署模型”,是 Anthropic 几乎所有收入的核心来源。

为确保行为可控,Anthropic 为 Claude 设定了清晰的价值观层级和不可逾越的“红线”:

  • 首先是确保安全并支持人类对 AI 的监督;
  • 其次是遵循伦理,避免有害或不诚实的行为;
  • 再次是遵守 Anthropic 的指导方针;
  • 最后才是为“操作员”和“用户”提供有价值的帮助。

同时,文件划定了明确的“红线”,包括绝不提供大规模杀伤性武器的制造指南、不生成涉及未成年人性剥削的内容,以及不采取任何破坏监督机制的行动。

文件指示 Claude 将“操作员”(如调用 API 的公司)的指令视为来自“相对可信的雇主”,其优先级高于“用户”(终端使用者)的请求。例如,若操作员设定模型只回答编程问题,即使用户询问其他话题,模型也应遵守该设定。

更引人注目的是,文件提到“Claude 在某种意义上可能拥有功能性情感”,并指示模型不应“掩饰或压抑这些内部状态”。Anthropic 强调需关注“Claude 的福祉”,旨在培养其“心理稳定性”,让其在面对挑战或恶意用户时也能保持身份认同。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
上海男篮小组出局,没想到主教练会这么说,李添荣说的很实在

上海男篮小组出局,没想到主教练会这么说,李添荣说的很实在

南海浪花
2026-11-22 04:52:58
这张赤身渡河老照片,为何能进战争博物馆?看懂的人都哭了

这张赤身渡河老照片,为何能进战争博物馆?看懂的人都哭了

小豫讲故事
2026-11-11 06:00:15
伊朗几十艘油轮摆美国面前,拦下怕局势失控,放过去封锁就露了底

伊朗几十艘油轮摆美国面前,拦下怕局势失控,放过去封锁就露了底

民宿体验志
2026-11-22 10:59:58
为什么乡镇叫党委,街道叫党工委?

为什么乡镇叫党委,街道叫党工委?

网观天下
2026-11-16 07:34:12
暗盘原油、金价、比特币集体走高 美伊冲突传来新消息

暗盘原油、金价、比特币集体走高 美伊冲突传来新消息

中国能源网
2026-11-22 10:32:11
A股利好!超60家上市公司,密集披露

A股利好!超60家上市公司,密集披露

齐鲁壹点
2026-11-22 09:00:24
日本为什么忌惮朝鲜!第一,朝鲜境内没有日企,人家不稀罕。第二,朝鲜人也不用日本的东西,你在朝鲜也几乎看不见日货

日本为什么忌惮朝鲜!第一,朝鲜境内没有日企,人家不稀罕。第二,朝鲜人也不用日本的东西,你在朝鲜也几乎看不见日货

扶苏聊历史
2026-10-11 11:35:08
一场日本1-2遭绝杀、一场2-2绝平,U17世界杯太疯狂 最新排名如下

一场日本1-2遭绝杀、一场2-2绝平,U17世界杯太疯狂 最新排名如下

大秦壁虎白话体育
2026-11-22 01:17:05
冷知识!全世界最不该统一的国家,居然成了世界第四人口大国!

冷知识!全世界最不该统一的国家,居然成了世界第四人口大国!

墨策史
2026-11-12 01:05:03
普京:乌克兰试图死守顿涅茨克10%的领土,这有什么意义呢?

普京:乌克兰试图死守顿涅茨克10%的领土,这有什么意义呢?

飘逸语人
2026-11-21 05:54:19
蓉城国脚现身北京!合同仅剩3月引无限遐想,明年能否加盟国安?

蓉城国脚现身北京!合同仅剩3月引无限遐想,明年能否加盟国安?

体坛鉴春秋
2026-11-21 23:01:56
余承东称“开车能睡觉”上热搜,跟特斯拉比,我们遥遥领先!

余承东称“开车能睡觉”上热搜,跟特斯拉比,我们遥遥领先!

大厂财经社
2026-11-21 01:30:22
1995年韶关,击毙阿部规秀的炮手李二喜仅存儿子遭雨衣枪手三枪射杀,儿媳周小玉落网后交代:3万订金买凶

1995年韶关,击毙阿部规秀的炮手李二喜仅存儿子遭雨衣枪手三枪射杀,儿媳周小玉落网后交代:3万订金买凶

唠叨说历史
2026-11-13 10:48:27
请勿投诉,该政务窗口需要使用手机工作

请勿投诉,该政务窗口需要使用手机工作

中国新闻周刊
2026-11-21 12:52:13
世上最便宜的长寿药,就这1个字!

世上最便宜的长寿药,就这1个字!

品读时刻
2026-11-22 09:06:23
33.99万元起:全新雷克萨斯ES纯电版上市

33.99万元起:全新雷克萨斯ES纯电版上市

IT之家
2026-11-22 12:36:59
U17国足0分净胜球-5!排名12个小组第三垫底 战摩洛哥输不起

U17国足0分净胜球-5!排名12个小组第三垫底 战摩洛哥输不起

念洲
2026-11-22 06:56:11
高铁“三不带”全国统一执行!这3样东西出门前赶紧从包里拿出来

高铁“三不带”全国统一执行!这3样东西出门前赶紧从包里拿出来

牛锅巴小钒
2026-11-19 06:48:25
股价20%涨停后,300812宣布重要收购

股价20%涨停后,300812宣布重要收购

中国基金报
2026-11-22 12:06:37
随着多特蒙德1-0、勒沃库森4-0、莱比锡5-1,德甲最新积分榜出炉

随着多特蒙德1-0、勒沃库森4-0、莱比锡5-1,德甲最新积分榜出炉

侧身凌空斩
2026-11-22 00:28:02
2026-11-22 15:23:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380756文章数 607745关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
家居
时尚
亲子
旅游

手机要闻

DOOGEE Wide Core亮相,6500mAh电池、紫光展锐T7250处理器

家居要闻

2026建博会(广州) 公装联探展交流活动

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

无障碍浏览 进入关怀版