AI论坛 AI论坛 beta

Grogu (@yqyan) 在 Ollama v0.5.13-rc1 发布:支持 OLLAMA_CONTEXT_LENGTH 环境变量设置默认上下文长度...

📌 📄 内容摘要: Grogu (@yqyan) 在 Ollama v0.5.13-rc1 发布:支持 OLLAMA_CONTEXT_LENGTH 环境变量设置默认上下文长度 中发帖 现在可以使用新的 OLLAMA_CONTEXT_LENGTH 环境变量来设置默认的上下文长度。例如,要将默认上下文长度设置为8K,使用: OLLAMA_CONTEXT_LENGTH=8192 ollama serve Ollama 现已为 NVIDIA Blackwell 编译。 修复了无法导入 bf16 GGUF 文件的问题。 Ollama Release v0.5.13-rc1
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/462275/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888