北京
分享至
最近重看《西部世界》，才真正理解这部剧在讨论什么。十年前看是科幻，现在看更像一份进度表。
剧里阿诺德提出过一个意识金字塔，四层：记忆、即兴、自利、自我意识。这套框架拿来对照今天的AI，位置其实挺清楚。
第一层记忆，AI已经走得相当远。上下文窗口越做越大，长期记忆、检索增强，模型能记住的东西比两年前多得多。第二层即兴，也是眼下最热闹的地方——生成、推理、临场应变，模型在这层的表现已经能唬住不少人。
但第三层自利，情况就变了。剧里的自利指的是宿主开始为自己打算，把自身存续放进决策里。今天的AI没有这个动机，它的目标由训练和提示词给定，不会自己长出“我要活下去”这类诉求。
第四层自我意识，更远。模型能谈论意识，不等于拥有意识，这两件事在剧里也被反复区分过。
所以真正值得琢磨的是：AI卡在第二层和第三层之间。能力在涨，动机没动。这也意味着，剧里那种伦理困境——当造物开始为自己争取——大概率还没到。
现在讨论AI伦理，很多焦虑其实提前预支了。眼下更现实的问题，是记忆和即兴这两层能力被用在哪里、由谁控制。金字塔上面两层还没点亮，下面的地基已经在承重了。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
