北京
继美国人工智能公司Anthropic的一位研究人员因担忧AI失控而辞职后，该公司的更多研究人员公开表示赞同，并发布了严正警告。特斯拉CEO埃隆·马斯克和社交平台X上的其他保守派人士，则将这一连串的担忧称为“阴谋局”（setup）和“心理战”（psyop）。
9月10日，Anthropic发布其AI模型被滥用的情况报告，称已经阻止了可能用于制造生物武器的尝试，化解了多起案例中的潜在风险。
是预警还是阴谋
Anthropic的研究员雅各布·考克森8日在社交平台X上宣布辞职，并警告AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级人工智能（ASI）技术。随后，Anthropic多名内部人士表示，他们正在开发的技术可能会变得非常先进和危险，许多同事有同感但没有公开发表意见。
“目前还没有一个可行的科学计划来解决递归式自我改进型（RSI）人工智能带来的风险。”在Anthropic从事通用人工智能（AGI）安全工作、此前曾任职于谷歌DeepMind的王安娜（Anna Wang）10日在X上表示，Anthropic的许多人都希望放缓开发步伐，以便制定出计划缓解这些AI模型可能带来的风险。
（注：RSI ：AI系统不仅能执行任务，还具备修改、优化自身代码或架构的能力。）
据《卫报》报道，Anthropic的另一名员工德雷克·托马斯（Drake Thomas）表示，“事物的发展速度太快了，我们对于ASI所希望拥有的保障程度，目前还差得很远。”
在Anthropic从事安全研究的萨缪尔·马克斯（Samuel Marks）写道：“AI开发者相信，他们的技术可能会导致人类灭绝（或类似的可怕后果）。这可能会在未来几年内发生。通常来说，员工的级别越高，他们就越感到担忧。”
“听起来像是个阴谋局。”马斯克在社交平台上写道，他和其他对AI持更为乐观态度的人士开始散播一种理论，即考克森的发文和由此引发的后续连锁反应是一场“心理战”，旨在对公众关于AI的情感制造负面影响。
“我认为这场心理战（在找到更合适的词之前暂且这样称呼）的铺垫工作已经准备很久了。”马斯克在X上发文称，“这不过是点燃干柴的一根火柴。”
马斯克是在回应保守派智库“资本研究”（Capital Research）研究员帕克·塞耶（Parker Thayer）在社交媒体上的发文时做出这番表态。塞耶在毫无确凿证据的情况下提出了一种理论，认为考克森的帖文是一场“极其精密且资金充裕的公关行动”的开端，目的是“争取对民主党人的支持，进而将AI监管到彻底扼杀”。
美国对冲基金Pershing Square首席执行官比尔·阿克曼也转发了塞耶的帖文，简短评论：“有意思。”
AI或被用于制造无法阻止的病原体
Anthropic于当地时间10日发布报告，详细记录了过去8个月中对其AI模型的各种滥用行为，并表示今年已有科学家利用其顶尖模型开展可能有助于研发生物武器的研究，该公司已成功化解了数起潜在风险。
据《纽约时报》报道，Anthropic指出，由于正当的生物学研究（如可能带来疫苗突破的研究）同样可能被用于设计危险的病原体，因此公司无法确定这些研究是出于合法目的还是恶意企图。面对这种不确定性，基于对防范恶意活动后果极其严重的考量，Anthropic选择采取谨慎做法。
根据报告，在今年5月的一个案例中，一名科学家试图寻求AI模型Claude的帮助，以撰写一份关于基孔肯雅病毒实验研究的资助申请书。基孔肯雅病毒是一种由蚊子传播的疾病，会导致长达数月的剧烈疼痛及其他症状。这种被称为“功能增益”的研究虽然可能是合法的并有助于疫苗研发，但它也可能创造出“超级病毒变体”。该科学家希望通过对病毒进行基因改造，使其在反复感染活体动物的过程中具有更强的致病性。
Anthropic表示，这项特定研究令人担忧的部分原因在于，识别出该工作原计划在一家军事研究机构开展。Anthropic威胁情报负责人雅各布·克莱因说：“我们不知道这项研究是否旨在进行武器化，但军事机构开展功能增益研究确实令人担忧。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
