📌 📄 内容摘要:
zgccrui 在 Ollama 运行 DeepSeek-R1-Distill 系列模型 中发帖
今天早上起来看到huggingface里已经有大佬将DeepSeek-R1-Distill 系列模型量化为GGUF格式，可以直接使用Ollama跑起来了，使用命令如下
Qwen 系列
ollama run hf.co/unsloth/DeepSeek-R1-Distill-Qwen-32B-GGUF:Q4_K_M
ollama run hf.co/unsloth/DeepSeek-R1-Distill-Qwen-7B-GGUF:Q4_K_M
ollama run hf.co/unsloth/DeepSeek-R1-Distill-Qwen-14B-GGUF:Q4_K_M
ollama run hf.co/unsloth/DeepSeek-R1-Distill-Qwen-1.5B-GGUF:Q8_0
Llama 系列
ollama run hf.co/unsloth/DeepSeek-R...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/380088/1
─────────────────────────────
📢 来源：LINUX DO
