有人玩本地模型吗？试了试 Gemma-4 12B 有点笨啊

12 条回复

113 次浏览

试了款 Gemma-4 12B Coder 的模型，让它写个贪吃蛇网页小游戏都写不出来，感觉这种程度的智力没啥用

👍1

🤔1

可用的目前只有 TTS，VLM 类的，想 Coding 还得是大参数量

是的，或者简单的从图片中提取文字

OCR 这个不需要模型，百度的 PanddleOCR 已经可以商用了

。。小模型你还想要啥....

我之前部署过 4bit 量化的 300B 的 deepseek 本地模型，也是蠢的一逼，一个除法算不对。

你应该部署写代码的，专门搞推理逻辑的。应该会好很多，deepseek 推理很烂

看来还要等技术突破，本地模型才能有点用途

本地你想部署写代码的就去部署 qwen3.6，effort 需要开到最高，还能将就用

qwen3.6 27B 还行，不过就是巨慢

Gemma-4 专门处理文本的，OCR，或者总结统计是可以用的

你可以部署 diffusiongemma 同样的配置可以快 4 倍

展开 1 条评论

感觉至少得 Qwen3.6-27B 这种体量的小模型才堪堪可用，但也只能干一些小活。那些几 B 十几 B 的模型实在太弱了。
如果是写代码这种实质生产力的，少少都要几百 B 的 DeepseekV4Flash 起步，真正干好活就只能考虑 GLM-5.2/GPT/Claude, 其他不用想了。