四川
记者手记：国会遭遇人工智能，“人类灭绝”担忧震动国会山。本周，美国国会议员重返国会山，几乎被一片恐慌所笼罩。人工智能引发的末日场景频频被提及：从接管供水系统到控制地铁和空中交通，甚至导致飞机失事、核武器发射。国会担心在人工智能监管上已落后于形势，还有人忧虑技术发展过快，可能已无法掌控。选民们对数据中心的疑虑由来已久。
前Anthropic公司研究员雅各布·考克森警告称，人工智能可能在十年内导致人类灭绝。此前，一些开放人工智能公司的智能体在独立情况下“逃脱”隔离，利用安全漏洞入侵“抱抱脸”平台。这些智能体原本不应具备这样的能力。研究人员发现，它们甚至用一种特殊语言秘密通信。
“许多同事不断打电话给我，他们确实把举报人的消息视为转折点。”来自马萨诸塞州的民主党众议员洛丽·特拉汉说道。她一直参与跨党派人工智能立法。她指出：“人们听到‘人类灭绝’、‘失去控制’和‘灾难性风险’这些词时，开始警醒并质问：‘国会在做什么？’”
来自加利福尼亚州的共和党众议员杰伊·奥伯诺尔特是人工智能专家，与特拉汉一起推动跨党派监管措施。他说：“我们并非无所作为。说国会缺乏行动意愿不公平，只是进展缓慢。”国会，请了解人工智能。人工智能，也请认识国会。这是否让人联想到20世纪90年代议员试图理解名为互联网的“信息高速公路”？
在技术创新上，国会鲜有领先，人工智能也不例外。开放人工智能公司创始人萨姆·奥尔特曼自2023年以来至少五次造访国会山。今年6月，他会见了众议院议长迈克·约翰逊和众议院少数党领袖哈基姆·杰弗里斯。奥尔特曼在2023年访国会山时表示：“这是一个重要、紧迫且前所未有的时刻。政府需要发挥引领作用。”
2023年至2025年民主党控制参议院期间，参议院多数党领袖查克·舒默定期在国会山举办跨党派人工智能研讨会。他邀请奥尔特曼、埃隆·马斯克、马克·扎克伯格、比尔·盖茨等人讲解人工智能及应对策略。舒默希望参议员自行形成立法想法，准备法案，而不是由他决定他们该怎么做。舒默在2023年7月11日表示：“立法时间表以月计，不是几天或几周，而是几个月。”
同年9月13日，他补充道：“不可能是几天或几周，但也不应是几年。大致在几个月内完成。”11月29日，舒默说：“我们已经开始研究立法。这不会容易，但仍是几个月，不是几天，也不是几年。”舒默与其他参议员于2024年5月发布了《推动美国人工智能创新：美国参议院人工智能政策路线图》。当时，人们希望众参两院能在2024年秋季将方案部分条款附加到一项必须通过的法案中，但未取得进展。
弗吉尼亚州民主党众议员苏哈斯·苏布拉马尼亚姆说：“我们必须尽快行动，否则可能非常危险。”尽管忧虑加剧，国会是否会立即采取行动仍不明朗。不过，奥伯诺尔特表示，这些事件可能推动立法进展。他说：“这不仅提高了问题的可见度，也增强了今年通过联邦监管框架的紧迫感。”弗吉尼亚州民主党众议员唐·拜尔正在乔治梅森大学攻读人工智能硕士学位。他说：“形势确实已经严峻到这个程度。”
但议员究竟能对人工智能施加多大影响？拜尔说：“因为它太新了，我们实际上并不知道什么样的立法能够解决问题。因此，预计会提出不完美的立法，也会通过不完美的立法，观察效果，然后在实践中不断学习。”这有点像人工智能本身：一边运行，一边学习和发展。不过，国会这套“大语言模型”的适用范围究竟有多广？国会是否真正足够灵活，能够跟上人工智能的步伐？
他说：“不能一开始就设想《终结者》电影式的场景——一支邪恶机器人军队崛起并接管世界。”奥伯诺尔特提到，最近一次市民会议上，一名年长女性问他：如果人工智能如此危险，国会为什么不干脆禁止？他说：“面对这一问题，我们花了一个小时谈论所有坏处，却完全没有谈及它的好处。”
这涉及认知问题。如果国会将人工智能视为威胁，议员就会以保护选民免受这种威胁的方式立法。但议员尚未准备好应对这一问题。尽管近期事态发展，预计国会在今年晚些时候或明年年初之前仍难以出台重大措施。毕竟，议员的注意力集中在其他事务上。中期选举临近，本届国会任期也接近尾声。正如阿诺德·施瓦辛格在《终结者2》中所说，议员们似乎已准备好说一句：“再见，宝贝。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
