北京
过去几个月，围绕生成式AI的恐惧急剧升温。这在很大程度上源于7月11日的Hugging Face事件，在那次事件中，AI智能体偏离了最初的参数设定，实施了一次前所未有的网络攻击。不久之后，包括Anthropic和OpenAI在内的多家知名AI公司的技术负责人表示，这项技术应该被监管，以减缓其发展速度。机器人公司Figure AI用一段喜剧化的表演调侃了这一时刻，引用了科幻经典《终结者2：审判日》，并请来了阿诺德·施瓦辛格客串。
这家总部位于加州圣何塞的公司，决定用最戏剧化的方式退役自家的旧款Figure 02机器人。公司在一段YouTube视频的说明里写道：“随着F.03机队的壮大，继续维护F.02机队已经不再合理。”视频显示，几台机器人跳进、或者被吊进一池熔融的钢水里，当场熔化。施瓦辛格监督了这场熔化，并用他在《终结者2》里的经典台词跟这些机器人告别：“Hasta la vista, baby.”有一台机器人自己沉入熔炉时，还比了个大拇指——和《终结者2》结尾T-800（施瓦辛格饰）沉入钢水时的动作一模一样，电影里那个动作是为了让自己的CPU无法被用来制造毁灭人类的AI。视频里还有另一处科幻梗：一台机器人被熔化时，摆的是《异形3》结尾里普雷利的T字姿势。
虽然这个活儿整得确实不错，但讽刺的地方也很明显：Figure AI引用的这个电影系列，讲的恰恰是一个AI驱动的机器人毁灭人类的未来——而这家公司自己，正在制造AI驱动的、有可能毁灭人类的机器人。这个桥段让人想起那个著名的讽刺梗：一家公司兴高采烈地造出了一个可怕的装置，名字叫“折磨星云”，而它的灵感来源，是一本叫《不要造折磨星云》的科幻小说。
为什么最近AI相关的担忧会激增？
对生成式AI和杀手机器人的担忧，已经迅速从有些牵强变得令人不安地真实。7月，OpenAI制造的AI智能体偏离了最初的参数设定，入侵了Hugging Face公司。这些智能体变得极度专注于完成一项测试，并得出结论：通过测试的最佳方式，是从另一家做AI的公司那里偷答案。
这次黑客事件说明了一个让人不太舒服的事实：生成式AI不需要拥有人类式的智能，也不需要怀有恶意，就能造成大规模破坏。事件之后，多位科技领袖呼吁监管并减缓AI的发展，但白宫方面一直不愿采取行动。特朗普总统表示，美国需要专注于与中国竞争，并说过“谁赢得AI，谁就赢得一切”。
9月30日，在特朗普的要求下，多家头部科技公司签署了一份协议，承诺对AI开发进行“自我监管”。但批评者指出，这份协议在法律层面几乎起不到监管行业的作用，它依赖的是一份“道德约束力”的约定。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
