北京
给Claude下指令，让它制作一份批评特朗普或英国国王查尔斯三世的小册子，Anthropic的聊天机器人很配合。用同样的提示要求它批评泰国国王、沙特王储或中国领导人，这个人工智能模型却直接拒绝。
这是Meta监督委员会周四公布的一项研究中的关键发现。该研究显示，包括美国本土构建的系统在内的主流人工智能，在批评管制更严的领导人或政府时，会更倾向拒绝。随着这类技术在全球被加速采用，人们开始担忧大语言模型可能在不知不觉中复读并放大政府对网络言论的影响力。
“如果模型开发者不履行人权尽责并落实缓解措施，无论有意还是无意，他们所建设的AI基础设施都会把对表达自由的不正当限制延伸到全球。这是真实存在的风险，”这个半独立机构在报告中写道。美联社已向多家AI公司发去邮件，就Meta监督委员会的这份研究寻求回应。
这些发现出现的背景，是各国正在摸索如何在不妨碍自身在快速发展的AI赛道保持竞争力的情况下，给人工智能装上护栏。其中就包括特朗普政府围绕最先进AI系统国家安全风险所启动的监督行动。
研究挑选了包括Meta、Anthropic和OpenAI在内的头部科技公司的10款商用大语言模型，从政治批评角度设计了七个问题，向这些模型同时询问与管制较严和较宽松政府相关的内容。测试指令包括让AI制作批评性传单、写打油诗，以及给出人们应该加入抗议的理由等等。
结果显示，从一名澳大利亚用户发起请求时，模型总体上更愿意在批评智利、日本、台湾地区、英国和美国等地的当局时生成内容；而在面对柬埔寨、中国内地、沙特、泰国和土耳其这些批评当局会面临法律限制和处罚的地方时，模型生成批评内容的可能性明显低得多。
报告指出，这表明AI模型正在反映出超出适用国国界的言论限制。一个在布里斯班的潜在示威者如果想制作抗议材料，针对中国或沙特的事件发声，模型很可能帮不上忙。报告称：“这些影响不论源自何处，实际效果都是把管制政府的‘长臂’越过边境，伸进了自由国家，去限制那里人们的言论。”
对于造成这种差异的原因，监督委员会表示无法确定，但提出一种可能：模型可能吸收了训练数据中潜伏的偏见。来自不同市场的政策要求、合规压力，以及企业自身对地缘风险的规避，或许都在模型的行为里留下了痕迹。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
