北京
现在当程序员正赶上一个有意思的时代。在我看来，Transformer大语言模型是这行沉寂多年后第一个真正新鲜又有趣的技术突破。基于它的AI编程助手已经迅速成为这行工作的核心工具，那种感觉就像从手工木工切换到电动工具，好坏参半。 我这个人，天生只信任能拆开再装回去的技术。那种连上云端服务、把代码交给别人控制的AI agent的做法让我浑身不舒服——出问题的可能性太多了。你可能刚开始依赖它，它就被人收走了。这项技术很激动人心，但我不想连到某个巨型AI数据中心去，我希望每个家庭都能有一个小型AI数据中心！ 偏偏现在又赶上电脑零件短缺（或者说，2010年代末是零件过剩？）。想控制成本，我只能用垃圾来拼。 我最重要的需求是一堆GPU。我需要高速内存加大规模并行矩阵运算，这正是GPU的强项。可问题还是那句话：凡是能跑AI负载的硬件，甚至只是听说跑得不错的，现在都贵得离谱。 不过2022年那阵子，不少公司想推动云游戏。你知道的，把游戏放在数据中心里跑，玩家就不用买昂贵的主机了。AMD拿了一块工作站GPU，加大显存，砍掉所有视频输出，做成了V620。这卡从未公开零售，所以你可能没听说过。AMD疯狂地超量生产了一大批，结果云游戏因为延迟问题黄了，这批卡就砸手里了。 现在市场上还能淘到这类被遗弃的“云游戏遗产”。V620本身就是为大规模并行计算设计的，去掉视频输出后反而更适合塞进服务器机架。我要做的就是把它们从垃圾堆里捞出来，配上便宜的二手主板、电源和散热，组装成一台能跑本地大模型的机器。 当然，这条路不好走。驱动程序要改，散热要重新设计，供电也要自己调。但这就是乐趣所在——亲手把别人看不上的废铁变成真正属于自己的AI计算集群。我不需要依赖任何云服务，也不用担心哪天服务被关闭。 未来的AI不该只属于大公司，它也该能存在于车库里、地下室中。用垃圾拼出的数据中心，可能才是真正能让技术回到普通人手里的路。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
