北京
一家AI公司承诺，它的聊天机器人不会鼓励用户自杀。一个社交平台让儿童更难买到芬太尼。这些保护很重要，也本该一直存在。但企业跨过这道低门槛之后，仍然可以继续做让人依赖模拟友谊、或者被困在信息流里不断下滑的产品。
这正是当下科技政策争论的一个切口：我们习惯用"产品可能造成的最坏结果"来定义议题，却很少讨论它每天造成的隐性损伤。在AI产品大规模进入生活的阶段，只盯着灾难性伤害已经不够，产品是否会侵蚀人的思考、学习和彼此交往的方式，同样需要被追问。
一个对AI伴侣产生不健康依恋的青少年，可能永远不会出现在诉讼或新闻里——除非是最极端的案例。一个开始靠聊天机器人写每篇论文的学生，一个拿社交媒体信息流来衡量自己生活的年轻人，同样不会。产品可以满足每一条狭窄的安全要求，同时让整个文化在不上头条的方式里变得更糟。
把成功定义得这么窄，对科技行业来说在政治上很方便，企业也在主动推广这种定义。防止惊天灾难，对生意是好事：诉讼更少，严肃监管的压力更小。而直面"依赖"的日常后果，对它们的利润表威胁要大得多——那可能意味着给产品增加摩擦，主动限制参与度，或者砍掉那些制造负面结果的成瘾性算法。
科技巨头转而围绕自己已经承压的伤害去塑造立法。今年，谷歌在多个州支持了监管AI聊天机器人的法案。这些立法要求对性内容和自残诱导提供基本保护——这些本就该由企业自己建立——但设置了宽泛的豁免条款，可能让一些最流行的服务不受约束。法案通过，立法者可以宣称取得了一场安全胜利，而推动更强立法的努力——那些旨在防止儿童对AI产生情感依赖的法律——则失败了。这套打法在内布拉斯加州等地方奏效，产出的立法深受行业影响，代价是那些更能让企业担责的法案。
社交媒体已经走过一遍这个剧本。全球互联网用户现在平均每天在社交平台上花费超过两个小时，这些时间被悄悄从日常生活中抽走，交给那些利润取决于把人留在平台上的公司。除了少数科技公司CEO，恐怕没人希望算法占据清醒时间的这么大一块。而这种文化工程，在极端情况下可能与大规模暴力相关：Meta的平台曾被指与缅甸罗兴亚人种族灭绝、斯里兰卡反穆斯林骚乱，以及埃塞俄比亚提格雷战争期间据称的暴力煽动有关联。同样的激励逻辑，也运行在塑造美国年轻人对政治、对同龄人、对世界认知的信息流里。
AI把这条逻辑推进到社交媒体只能远距离影响的领域。它替我们写想法，替我们扮演本来会去求助的人。现在有三分之一的青少年选择与AI伴侣讨论严肃问题，而不是与真人交流。麻省理工学院的研究人员发现，用ChatGPT写论文的年轻人在任务期间大脑连接性更弱，证据显示这种"认知债务"在任务结束后依然存在。长期影响还有很多未知，但已经有理由追问：那些被营销为"让人更有能力"的技术，是否正在侵蚀最初帮助我们发展能力的习惯和关系。
顺着这个逻辑推到底，会得到一个被彻底消毒的娱乐世界：聊天机器人随时替我们省去思考的困难，省去应付另一个人情绪的麻烦，甚至省去面对自己情绪的麻烦。但任何认真写过一篇值得读的东西、或者修复过一段受损友谊的人都知道，这笔交易里丢掉的东西有多少。判断力是在努力和摩擦中建立的，学会与他人共处，靠的是直面一个事实：他们有各自的需求和观点。
安全应当作为底线被要求，然后还应当要求更多。科技公司和学区在把AI变成教室标配之前，应该以排除合理怀疑的标准证明它改善了学习与批判性思维。企业应被禁止设计假装有意识、或向用户表达爱意的伴侣产品，其系统如何影响人际关系、如何影响人独立思考的能力，应接受独立审查。那些把产品塞进现代生活几乎每个角落的公司，所承担的义务远不止避免下一条可怕的新闻头条。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
