前沿智能正在走向本地化。在IFA 2026上,NVIDIA联合微软及合作伙伴,推出更快的推理能力和新工具,让智能体在NVIDIA硬件上的本地部署与运行变得更加简单。全新的紧凑型NVIDIA RTX Spark Windows PC将于十月上市,为AI爱好者、开发者和创作者提供更多在本地安全运行智能体的方式。
八月本地AI动作频频
![]()
过去一个月,本地AI领域迎来多项进展。Perplexity在上月推出了Portable Computer智能体,用户可以在Linux系统(如NVIDIA DGX Spark)上本地运行Perplexity,模型、编排和工具被打包进单一应用体验中。该应用支持至少24GB显存的NVIDIA RTX GPU(Linux系统),Windows版本即将推出。
用户可以在本地运行完整工作流而不消耗积分,当需要额外研究或推理时,可选择将部分任务升级至云端15+前沿模型。Portable Computer在上传内容至云端前会请求权限,帮助用户将敏感信息保留在设备上。
Hermes Agent简化本地配置
由Nous Research开发的Hermes Agent是一款通用型智能体,已被数百万用户使用,以可靠性和自我改进能力见长。它不依赖特定模型或提供商,可全天候在本地系统运行,RTX PC、RTX PRO工作站和DGX Spark都是其理想运行环境。
在Windows上配置Hermes的本地模型将实现一键设置,覆盖RTX和DGX系统。智能体会自动检测NVIDIA GPU,选择合适的模型和配置,并通过集成的llama.cpp运行,NVIDIA推理优化已内置其中,无需手动下载模型或调参。Linux支持即将推出。
运行后,Hermes的工作方式与其他环境一致:使用工具、跨任务保持上下文、在会话间记忆信息,并随时间创建可复用技能,让智能体在持续使用中变得更强大。在GPU上本地运行模型,既保证了性能,也让数据留在系统内。
一键本地模型设置现已在Windows上线,Linux支持即将推出。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.