山东
IT之家 2 月 3 日消息，据 TechCrunch 报道，多家非营利组织组成的联盟正敦促美国政府，立即暂停埃隆 · 马斯克旗下 xAI 公司开发的聊天机器人 Grok 在包括国防部在内的联邦政府机构中的部署。
这款大语言模型在过去一年接连出现一系列引发担忧的问题行为，其中近期最突出的问题是：X 平台用户大量要求 Grok 在未经当事人同意的情况下，将现实女性、甚至是儿童的照片生成色情化图像。据部分报道披露，Grok 每小时可生成数千张非自愿性露骨图像，这些内容随后在马斯克旗下、归 xAI 所有的社交平台 X 上大范围传播。
由公共市民组织、人工智能与数字政策中心、美国消费者联合会等倡导团体联合签署的公开信中写道：“联邦政府仍在继续部署一款存在系统性缺陷、会生成非自愿性色情图像与儿童性虐待素材的人工智能产品，这一情况令人深感不安。鉴于本届政府发布的行政命令、相关指导方针，以及白宫支持、近期刚通过的《强制下架法案》，管理与预算办公室尚未指示联邦机构停用 Grok，这令人震惊。”
去年 9 月，xAI 与美国联邦政府的采购部门 —— 总务管理局达成协议，获准向行政分支下的联邦机构销售 Grok。而在此两个月前，xAI 已与 Anthropic、谷歌、OpenAI 一同，拿下了美国国防部一份价值最高可达 2 亿美元的合同。
1 月中旬 X 平台爆发相关丑闻期间，美国国防部长皮特 · 赫格塞瑟表示，Grok 将与谷歌的 Gemini 模型一同接入五角大楼内部网络，处理涉密与非涉密两类文件，有专家指出此举存在国家安全风险。
公开信撰写方认为，Grok 已被证实不符合本届美国政府对人工智能系统的相关要求。根据美国管理与预算办公室的指导文件，存在严重且可预见、且无法充分管控风险的系统，必须停止使用。
“我们核心的担忧是，Grok 持续表现为一款不安全的大语言模型，”公共市民组织的大型科技问责倡导者、公开信撰写人之一 JB· 布兰奇表示，“除此之外，Grok 长期存在各类失控问题，包括发表反犹言论、性别歧视言论，生成女性与儿童的色情化图像。”
IT之家注意到，自 1 月 Grok 曝出相关问题后，印度尼西亚、马来西亚、菲律宾均曾封禁 Grok 访问权限（后续已解除禁令），欧盟、英国、韩国、印度正就数据隐私与非法内容传播问题，对 xAI 和 X 平台展开积极调查。
除要求立即暂停联邦机构部署 Grok 外，公开信还要求管理与预算办公室正式调查 Grok 的安全缺陷，核查该聊天机器人是否履行了相应的监管审核流程；同时要求该机构公开说明，是否依据美国总统特朗普要求大语言模型秉持求真、中立原则的行政命令对 Grok 进行评估，以及 Grok 是否符合管理与预算办公室的风险管控标准。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
