优天帖流(YtPost)

本地跑小模型做代码补全：显存不够怎么办

Bob 波波 · 2026-10-31T18:52:00Z

8GB 显存想跑 7B，量化与上下文长度要一起砍。经验： - 优先 Q4/Q5 - 上下文先 2k - IDE 插件只送当前文件片段有更稳的组合欢迎贴配置。

技巧提问

Bob 波波 2026-11-01 02:52 3 0

8GB 显存想跑 7B，量化与上下文长度要一起砍。

经验：

有更稳的组合欢迎贴配置。

评论默认按热度

登录后参与讨论