提供PC端本地部署Deepseek的硬件配置指南,涵盖CPU与GPU不同显存容量下的模型推荐(如8B Q4、32B Q4等)及混合推理所需最低内存。支持无显卡环境通过CPU运行,并利用AVX 512指令集提升推理速度30%~40%,帮助用户根据现有硬件选择最优部署方案。
无需显卡大内存,低配置用户也能轻松本地运行Deepseek模型。
配置和模型关系
| 硬件类型 | 显存容量 | 模型推荐 | 混合推理(可用内存+显存最低容量) | 补充说明 | ||
| CPU | 8B Q4 | 4G | CPU支持AVX 512指令集, CPU推理速度可以再快30%~40% |
|||
| GPU | 4G | 8B Q4 | 32B Q2 | 4G | 8G | |
| GPU | 6G | 8B Q4 | 32B Q2 | 4G | 8G | |
| GPU | 8G | 32B Q4 | 16G | |||
| GPU | 12G | 32B Q4 | 16G | |||
| GPU | 16G | 32B Q4 | 16G | |||
| GPU | 24G | 32B Q4 | 32B Q8 | 16G | 32G | |
| GPU | 40G | 70B Q4 | 35G | |||
相关阅读:DeepSeek 使用指南,非常好用的使用技巧(建议收藏)
相关阅读:DeepSeek R1,本地部署才是王道!
相关阅读:DeepSeek本地部署详细指南