目前有什么可以本地部署的大模型推荐?
时间：2025-06-22 05:40:10 来源：网络 人气：
这里推荐一个本地微调大模型的框架。
ZO2，一个仅用18G显存就能全参微调175B大模型的框架（当然也支持微调小一些的模型）。
更新：现在ZO2支持Qwen3啦，全参微调32B的版本只需要6GB显存。
Code： ***s://github***/liangyuwang/zo2 Paper： ***s://arxiv.org/abs/2503.12668。
发表评论
排行
- 朱丹「鸡腿给弟弟吃」言论惹争议，曾自曝让女儿儿子上混龄班以便让姐姐照顾弟弟，如何看待其观点？
- 眼睛有飞蚊症可以自愈吗?
- Chrome 浏览器设计的神细节有哪些？
- 为什么苹果手机杀后台现象频繁？是内存不够、后台管理严格还是其他原因呢？
- 国产手机AI「好用」的背后，是技术差距还是文化差异？
- 能够自己一个人创业的全栈web码农fullstack developer要会哪些技术？
- Gemini 2.5 Flash 和Pro稳定版上线，和之前版本相比，在性能和应用场景上有哪些提升？
- ***如不小心进入后室（backroom）该如何求生？
- 中国的歼-10 在世界上是什么水平？
- 为什么越来越多的国内男孩，要娶国外女孩?
{dede:myad name='right'/}
评论列表（条）