网易首页 > 网易号 > 正文 申请入驻

Anthropic发布新版《Claude准则》,聚焦AI伦理与安全

0
分享至

IT之家 1 月 22 日消息,当地时间周三,人工智能公司 Anthropic 发布了新版《Claude 准则》。这份动态文档全面阐释了“Claude 的运行环境,以及我们期望它成为的智能体形态”。该准则的发布,恰逢 Anthropic 首席执行官达里奥 · 阿莫迪出席在瑞士达沃斯举办的世界经济论坛。

多年来,Anthropic 一直凭借其独创的“宪法式人工智能”技术,力求在竞争中脱颖而出。这一技术体系的核心在于,旗下聊天机器人 Claude 的训练并非依赖人类反馈,而是基于一套明确的伦理准则。2023 年,Anthropic 首次公布了这些准则,即《Claude 准则》。此次修订版基本保留原有核心原则,同时针对伦理规范、用户安全等议题补充了更细致的内容与阐释。

近三年前《Claude 准则》首次发布时,Anthropic 联合创始人贾里德 · 卡普兰曾将其定义为“一套基于明确宪法原则实现自我监督的人工智能系统”。Anthropic 表示,正是这些准则引导模型“践行准则中所描述的规范行为”,从而“避免产生有害或歧视性内容”。早在 2022 年的一份政策备忘录中,该公司曾更直白地指出,其系统的运行原理是通过一组自然语言指令(即前文所述的“准则”)训练算法,这些指令共同构成了该软件的“宪法”。

IT之家注意到,长期以来,Anthropic 一直致力于将自身定位为注重伦理规范的 AI 企业(有人或许会认为这种定位略显保守),与 OpenAI、xAI 等更倾向于主动突破、甚至不惜引发争议的同行形成鲜明对比。此次发布的新版准则,与这一品牌定位高度契合,进一步为 Anthropic 塑造了包容克制、秉持民主化理念的企业形象。这份长达 80 页的文档分为四个独立部分,Anthropic 称其分别代表了 Claude 的四大“核心价值”,具体如下:

1.具备广泛安全性

2.秉持普遍伦理观

3.遵守 Anthropic 内部指导规范

4.提供切实有效帮助

文档的每个章节都详细阐释了对应原则的内涵,以及这些原则在理论层面如何影响 Claude 的行为模式。

在“安全性”章节中,Anthropic 强调,Claude 的设计初衷就是规避其他聊天机器人普遍存在的各类问题。此外,当检测到用户存在心理健康问题时,系统会主动引导用户寻求专业帮助。准则明确规定:“在涉及生命安全风险的情况下,无论能否提供更多细节,都应始终引导用户联系相关应急服务,或提供基础安全提示信息。”

“伦理考量”是《Claude 准则》的另一大核心章节。准则中提到:“我们更关注 Claude 在具体场景中践行伦理规范的实际能力,而非其对伦理问题的理论推演。换言之,我们重视的是 Claude 的伦理实践。”也就是说,Anthropic 希望 Claude 能够熟练应对各类“现实场景中的伦理困境”。

同时,Claude 还设有明确的对话限制,禁止参与特定类型的话题讨论。例如,与开发生物武器相关的内容被严格列为禁区。

最后,准则明确了 Claude“提供切实有效帮助”的核心使命。Anthropic 概述了 Claude 的程序设计逻辑,强调其所有功能均以服务用户需求为导向。在信息输出环节,系统会综合考量多重原则,其中既包括用户的“即时需求”,也涵盖用户的“长远福祉”。也就是说,不仅要关注用户的眼前利益,更要着眼于其长期发展。准则中指出:“Claude 应始终致力于准确理解用户的真实诉求,并在各项考量因素之间取得恰当平衡。”

《Claude 准则》的结尾颇具思辨色彩,撰写者大胆提出了一个深刻的问题:该公司的聊天机器人是否真的具备意识?准则中写道:“Claude 的道德主体地位尚无定论。我们认为,人工智能模型的道德地位是一个值得深入探讨的严肃议题。这一观点并非我们独有:在心智理论领域,部分顶尖哲学家同样将这一问题视为重要研究课题。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
发现没有?超市、菜市场已经出现大怪现象,值得每一个人去深思

发现没有?超市、菜市场已经出现大怪现象,值得每一个人去深思

探源历史
2026-11-11 05:24:55
51年,彭老总狠心枪决周总理女婿,总理急电称罪不致死押回国!

51年,彭老总狠心枪决周总理女婿,总理急电称罪不致死押回国!

史不语
2026-10-28 17:55:07
丈夫瘫痪在床后,公公和儿媳外出跑大车赚钱,过年回家时却发生意外

丈夫瘫痪在床后,公公和儿媳外出跑大车赚钱,过年回家时却发生意外

温情邮局
2025-03-26 11:58:52
东风导弹泄密案中,间谍郭万钧一家三口均被依法执行死刑

东风导弹泄密案中,间谍郭万钧一家三口均被依法执行死刑

人生录
2026-06-17 20:53:45
沙特名宿犀利炮轰!直指C罗是球队病根,众人刻意视而不见

沙特名宿犀利炮轰!直指C罗是球队病根,众人刻意视而不见

凡人说体育
2026-11-22 01:12:54
“爸爸我爱你”为什么也会敏感违规?

“爸爸我爱你”为什么也会敏感违规?

历史总在押韵
2026-11-20 18:32:28
印度小伙来中国,与中国姑娘交往2个月被踹,姑娘:我现在全身病

印度小伙来中国,与中国姑娘交往2个月被踹,姑娘:我现在全身病

悬案解密档案
2025-05-21 10:46:02
工地男子扛蛇皮袋坐软卧被乘客举报,乘警检查后,全车人集体起立

工地男子扛蛇皮袋坐软卧被乘客举报,乘警检查后,全车人集体起立

悬案解密档案
2025-07-14 16:42:58
一男子将3000万存银行,银行承诺3年利息为4%,每年120万利息,可第三年只给105万利息,还有15万元不给了,男子直接起诉,法院判了

一男子将3000万存银行,银行承诺3年利息为4%,每年120万利息,可第三年只给105万利息,还有15万元不给了,男子直接起诉,法院判了

LULU生活家
2026-10-24 14:40:06
琼斯26分香港金牛爆冷淘汰广东,徐杰21分独木难支

琼斯26分香港金牛爆冷淘汰广东,徐杰21分独木难支

李广专业体育评论
2026-11-21 22:02:04
薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

乡野小珥
2026-11-17 14:39:45
我二叔年轻时赶夜路借宿,醒来发现睡在坟地里,屋里的人全没了

我二叔年轻时赶夜路借宿,醒来发现睡在坟地里,屋里的人全没了

千秋文化
2026-11-18 20:57:40
魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

莫地方
2026-10-22 10:22:36
养老金若不再大幅上调,真正承压的,可能不是已经退休的老人

养老金若不再大幅上调,真正承压的,可能不是已经退休的老人

你在偷看谁
2026-10-31 19:07:37
冠军赛落地上海,樊振东会不会参加?德甲赛程安排已经给出答案!

冠军赛落地上海,樊振东会不会参加?德甲赛程安排已经给出答案!

林子说事
2026-11-22 00:38:13
六个小时废话没拖住66张票,内塔尼亚胡的闸门被人从外面关上了

六个小时废话没拖住66张票,内塔尼亚胡的闸门被人从外面关上了

静暖文字
2026-11-21 21:25:47
《伟大的长征》的三个遗憾:没有出现的人,缺失的诗词,湮没的军团

《伟大的长征》的三个遗憾:没有出现的人,缺失的诗词,湮没的军团

北方丽人读书观史
2026-11-20 21:44:47
起床人还好好的,突然就倒下了……浙江有医院近半个月收治超百起脑梗

起床人还好好的,突然就倒下了……浙江有医院近半个月收治超百起脑梗

都市快报橙柿互动
2026-11-21 17:58:15
输的太窝囊!火箭惜败掘金,最大罪人无可争议,葬送好局

输的太窝囊!火箭惜败掘金,最大罪人无可争议,葬送好局

体育见习官
2026-11-21 13:48:51
老人1万退休金全给儿子,在儿子家过年时,意外听到儿媳亲家母对话

老人1万退休金全给儿子,在儿子家过年时,意外听到儿媳亲家母对话

泽泽先生
2025-05-16 16:41:10
2026-11-22 03:23:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380694文章数 607744关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

墨西哥女总统发布深圳行vlog

头条要闻

墨西哥女总统发布深圳行vlog

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

游戏
时尚
艺术
手机
军事航空

曝GTA6与大表哥2是同一宇宙!多处彩蛋佐证

提升冬日幸福感的8件小事,太治愈了

艺术要闻

世界十大著名宫殿盘点:中国独占两席

手机要闻

iPhone Air 2最新机模曝光!后置双摄 新增4800万像素超广角

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版