31B QLoRA：22GB 显存可运行
令人惊讶的是：310亿参数的模型现在只需要22GB显存就能运行，这比传统方法节省了大量计算资源，使得在消费级硬件上运行大型语言模型成为可能， democratizing AI access。
3 Matching Annotations
- Last 7 days
-
-
- Apr 2026
-
-
AI is a way to level the playing field, for sure! Successful writers have always operated with a lot of support around them, but not everyone has access to those resources.
大多数人认为AI写作会加剧不平等，但作者将其视为一种民主化工具，可以让没有传统写作资源的人获得专业级支持。这挑战了人们对AI写作的精英主义批评，表明它实际上可能缩小而非扩大创作领域的差距，为更多人提供专业写作支持。
-
-
www.tomtunguz.com www.tomtunguz.com
-
Within three to four months, you can run a model with similar performance on your laptop; 23 months later, you can run the same model on your phone.
大多数人认为前沿AI技术需要很长时间才能普及到消费级设备，但作者认为前沿模型只需3-4个月就能在笔记本上运行，23个月就能在手机上实现，这种技术下放的速度远超行业普遍预期。
-