北京
家用服务器能干什么？装几个软件、存点数据、跑跑自动化任务，差不多就到头了。但如果你往里面塞一张二手显卡，事情就开始变得不一样了。
一位自建服务器玩家分享了他的实践：把一张二手AMD Radeon RX 7900 XT装进家用服务器后，这台机器从“能用的玩具”变成了“能干活的工具”。核心变化在于，20GB的显存让本地跑大语言模型（LLM）成了现实，不再需要依赖云端API或外部服务。
一张二手显卡，改变了服务器的定位
自建服务器的好处不用多说：没有云订阅费、不依赖外部服务、大多数自托管方案完全免费。但瓶颈也很明显——硬件。想跑最新的LLM，CPU和内存的消耗是惊人的，普通家用服务器根本扛不住。
这位玩家的做法是：把家里的服务器整合回单台机器，追求持续运行下的最高效率。他翻出一颗AMD Threadripper 9000系列芯片，调整了UEFI设置来降低待机功耗——听起来有点反直觉，毕竟Threadripper是出了名的“电老虎”。但调校之后，整机待机功耗降到了约60瓦，对比两台Intel Core i5-7400迷你台式机各20瓦的功耗，这个数字相当能打。
AMD ROCm软件栈：从“折腾”到“顺手”
显卡装进服务器后，第一个用途就是跑LLM。这位玩家此前在RTX 5090到带移动处理器的迷你PC上都折腾过Ollama和各类模型，而RX 7900 XT的表现让他印象深刻。
关键转折点在于AMD的ROCm软件栈。过去几年，这套工具链的成熟度提升明显，配合Proxmox的GPU直通（passthrough）功能，配置过程比想象中顺畅。他成功在Proxmox上完成了GPU直通，让虚拟机或容器直接调用这张显卡的计算能力。
LXC容器：一张显卡，多个任务同时跑
这套方案的核心设计在于：所有任务都跑在同一个Proxmox节点上的专用LXC容器里，而不是分散在多个虚拟机（VM）中。
为什么选LXC而不是VM？原因很直接：VM通常需要把整张GPU独占分配给一个实例，而多个LXC容器可以共享同一张显卡。这意味着LLM推理、Immich（照片管理）和Frigate（摄像头监控）可以同时跑在同一台主机上，只用一张GPU，而且开销极低。
LXC的另一个优势是资源按需分配。它不需要像VM那样预先划走一部分主机资源，而是在需要时动态获取——包括GPU算力。这种灵活性让多任务并行变得非常自然。
开源驱动的体验：省心到意外
驱动方面，RX 7900 XT在开源驱动下运行毫无问题。Proxmox社区脚本帮了大忙——安装LXC、配置软件、建立容器内加载GPU所需的链接，这些步骤都有现成脚本可以处理，几乎不需要手动干预。
目前他在这套系统上跑的LLM是qwen3系列模型。20GB显存的空间足够塞进较大规模的模型，既能保证提示词推理（prompt inferencing）的速度，也能处理其他LXC容器随时提出的计算需求。
这套方案意味着什么
把二手显卡塞进家用服务器，本质上是在做一件事：把原本需要云服务的计算能力，拉回本地。没有订阅费，没有数据出网的顾虑，没有外部服务宕机的风险。
对于已经入坑自托管的玩家来说，这可能是下一步最值得投入的升级方向。一张二手显卡的成本，换来的是本地跑LLM、AI照片管理、智能监控的全套能力——而且整机功耗控制在60瓦左右，长期运行的电费压力也不大。
当然，这套方案的门槛在于：你得有一台支持GPU直通的Proxmox主机，愿意花点时间调UEFI和容器配置。但如果你已经走到了自托管这一步，这些折腾大概早就习惯了。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
