河南
快科技4月21日消息，据GiggleHD实际测试，AMD X3D处理器在RAG（检索增强生成）AI基准测试中展现出远超预期的性能表现，最高领先非X3D芯片达88%。
RAG AI通过外部向量数据库检索信息来增强大模型的回答质量，与纯LLM推理不同，向量搜索的大量计算负载落在CPU而非GPU上。
随着Agentic AI工作负载的推进，搜索驱动的任务流越来越多，CPU的延迟瓶颈问题日益突出。
HNSW（分层可导航小世界）搜索算法就是典型例子，在GPU执行LLM推理的同时，CPU负责图检索，更大的缓存意味着更短的检索时间。
GiggleHD使用开源的X3D RAG基准测试，针对个人PC和小团队单节点场景（约100K-200K向量），对AMD锐龙9000X3D系列及多款非X3D芯片进行了实测。
结果显示，在100K向量批量搜索中，X3D CPU最高比非X3D芯片快88%；在200K向量测试中，同为8核的锐龙7 9850X3D比锐龙7 9700X快50%以上，且8核X3D芯片的速度超过了16核的锐龙9 9950X。
索引构建方面，100K向量测试时间缩短50%，200K向量缩短39%，并发RAG吞吐量同样由X3D芯片领跑。
差距较小的项目是TTFT（首Token时间）吞吐量，因为该任务主要依赖GPU而非CPU。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
