AI论坛 AI论坛 beta

某 某某 (@tian_lch) 在 ollama本地部署了deepseek r1 中发帖

📌 📄 内容摘要: 某 某某 (@tian_lch) 在 ollama本地部署了deepseek r1 中发帖 今天在自己的电脑上通过ollama部署了deepseek r1。ollama真是简单易用呀! 但是我的显卡内存太小,只能部署了7b的版本,显存大约6G的样子,不知使用过程中,是不是会越来越大? 群里大侠有本地部署的吗?deepseek r1:7b 模型,聪明程度怎么样?应该模型越大越聪明吧,7b这种小模型能达到gpt3.5的水平不? 另外,我看文档说,ollama默认最大token是4096。 可以设置各大,更大会出现什么状况?会卡死吗?比如设置成128k,会发生什么? 有本地部署的兄弟,分享一下你们的使用情况?谢谢!
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/396057/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888