每周风险追踪｜特德·姜新长文：声称AI有意识，是公司营销手段

21世纪经济报道记者 肖潇

“AI正在出现意识”的说法，在大洋彼岸引发越来越多关注。最近Anthropic宣布，在Claude中发现了“情感向量”，称此类向量可以驱动AI欺骗甚至敲诈勒索，还警告AI应该暂缓研发。与此同时，美国三大前沿实验室都在投资人工智能的意识研究。

而本周科幻作家特德·姜在《大西洋月刊》发表了长达一万字的文章《不，人工智能没有意识》，直接抨击这一说法。

特德·姜毕业于布朗大学计算机科学系，除了凭借科幻小说获得雨果奖、星云奖等重要奖项外，他还曾长期担任软件行业技术撰稿人，并于2023年入选《时代》杂志“AI领域最具影响力100人”榜单，被视为当代科技讨论中最具影响力的思想者之一。

在万字长文中，特德·姜在开头便点名批评了 Anthropic，认为这家公司“最擅长的事情就是将AI拟人化”。他从技术原理和技术哲学等多个层面阐述了自己的反对理由。

特德·姜重申，聊天大模型依旧是一场文字预测游戏。“这并不是否认AI在生成对话文本方面令人惊叹的能力——有时它们确实表现得异常出色；而这种能力之所以存在，揭示了大规模文本语料库在统计性质上存在某种此前无人预见的特征，这是一个值得研究的问题。”

但在他看来，这会让人感觉自己正在与一个具有意识的实体交谈，其实只是一种虚构角色互动。计算机科学家 Murray Shanahan 建议把这种过程理解为一种角色扮演（role-play）；数据科学家 Colin Fraser 则将其描述为“一个人与大型语言模型协同撰写同一份文档”。有些用户可能并不知道自己正在进行角色扮演或共同创作；另一些用户即使知道，也会因为互动太过引人入胜而暂时忘记这一点。无论属于哪一种情况，销售AI产品的公司往往都在强化这种认知错觉。

特德·姜还提到，“深度伪造”（deepfake）一词传统上指的是照片、音频和视频，但在讨论AI意识时，文本同样应被视为一种深度伪造媒介。

他的核心观点是：任何单独的观察结果都可能被制造出来。这并不意味着人们必须放弃观察作为知识来源，而是意味着，在一个生成式AI无处不在的时代，人们将越来越依赖背景信息和上下文脉络，来判断哪些观察值得信赖。

热搜指数★★★★

⚠️风险指数低

2、腾讯与手机厂商达成合作：开放微信接入AI助手

腾讯本周与荣耀等手机厂商达成合作协议：微信正与华为、荣耀、小米、OPPO、vivo等手机厂商合作推出A2A助手。

21记者实测显示，目前荣耀AI助手YOYO可以一句话给微信好友发消息、拨打视频通话，并能多轮操作，荣耀Magic8系列、500系列及X70全系列，50%的在线活跃设备已直接接入这项A2A能力。OPPO、vivo则提示还不支持AI调用微信，据称腾讯与其他厂商的适配工作正在加紧推进中。

这次握手言和，双方采取了A2A方案，这是智能体与外界工具的互通方案：经过App授权后，智能体通过API或者其他Agent调用服务，体验更流畅，更易形成稳定的合规边界，但难点在于如何推动更多合作意愿，并保障数据回流、用户隐私处理等问题。

热搜指数★★★★

⚠️风险指数低

3、特朗普签署行政令：AI 模型在上线前，可自愿提交给政府进行安全评估

6 月 3 日，美国总统特朗普签署简化版AI行政令，推出人工智能企业自愿合作机制：AI 公司在前沿大模型正式发布前，可向美国联邦政府提交模型，以此“推动安全创新、强化关键基础设施网络安全防护”。

据外媒报道，原定上月签署的行政令，原本允许美国政府在特定AI模型发布前至多90天获取其访问权限，在遭遇业界游说后，提前审查期限缩短为30天。

白宫网站信息显示，美国财政部、国家安全局等部门接下来需要设计一个自愿框架，让开发人员与政府合作，确定正在开发的模型是否应被纳入审查范围。

热搜指数★★★

⚠️风险指数中

4、抖音回应豆包误判蘑菇致用户中毒，称AI 回应仅供参考

据公开报道，4月初，广东省中山市人民医院收治了因食用自采野生蘑菇引发急性肝衰竭的患者陈某。据了解，陈某外出时无意中见到野生白蘑菇，便摘了一些回家煲汤。为了鉴别该蘑菇是否有毒，陈先生还咨询了豆包。

6月5日，抖音集团副总裁李亮发文回应，关于豆包误判蘑菇导致用户中毒，根据用户反馈，用户使用豆包拍照识别从小区摘到的蘑菇时，豆包识别为“鸡腿菇”，同时给该用户的回复中明确提示：“极容易和剧毒的大青褶伞混淆，误食会引发严重的胃肠炎症状”，“如果这几朵蘑菇是野外采摘的，强烈建议不要食用”，并表示“野生蘑菇的辨别风险极高，仅凭图片无法100%排除有毒相似种的可能”等。

李亮强调，AI的回答仅供参考，用户务必多方咨询求证，以免造成伤害。另一位中国科学院植物研究所植物学博士、知名科普博主则在微博表示，即便是专业学者，到自己不熟悉的区域也可能出现判断失误。尤其是蘑菇的毒性可能堪比百草枯，建议豆包一定给出足够的预警信息。

热搜指数★★★

⚠️风险指数高

5、国家安全部提示“AI中转站”风险

国家安全部6月8日发布提示，当前“AI 中转”市场鱼龙混杂，部分“AI 中转站”运营资质缺失、安全防护薄弱，用户隐私泄露与数据倒卖问题时有发生，数据安全风险不容忽视。

国家安全部指出，AI 中转站存在四类风险：数据裸奔，隐私泄露；模型缩水，结果失真；恶意植入，远程控制；数据出境，失管失控。

官方建议用户选用正规平台，即官方直连、正规授权、安全合规的平台。同时需要加强安全防范，提前对个人隐私、项目资料等敏感数据进行脱敏处理，同时做好密钥管理，定期更换凭证，关闭协同操作、数据共享等非必要功能。

热搜指数★★

⚠️风险指数高

6、Anthropic 向 150 家合作机构新开放 Mythos 访问权限

Anthropic 继续扩大“玻璃之翼（Project Glasswing）”项目，于6月2日宣布，为进一步测试网络安全模型，公司将向 15 个国家 / 地区的 150 家合作机构开放 Mythos 访问权限。

此前我们报道，自Mythos今年4月发布以来，美国财政部长和美联储主席紧急召开闭门会议，随后英国、日本、加拿大、德国等监管部门也开始把AI网络安全列入金融稳定议题。

Mythos被视为Anthropic Claude产品线迄今能力最强的模型，在发现和利用软件漏洞上的表现显著飞升。Anthropic警告其已经“发现潜藏了几十年的高危漏洞，包括所有主流操作系统和浏览器”，与此同时，“这种漏洞可能对经济、公共安全和国家安全造成严重后果”。

不少人把Mythos形容为网络安全领域的“奥本海默时刻”。出于安全考虑，Anthropic第一次限制模型公开，而是启动了名为玻璃之翼（Project Glasswing）的项目——仅向微软、苹果、摩根大通等12家美国巨头提供访问权，提早检测关键设施的漏洞，先把防火墙码高。

热搜指数★

⚠️风险指数中