有人用一块 RX 7900 XT 显卡，在本地跑起了大语言模型。显存只有 20GB ——放在AI开发的硬件选项里，这个数字实在算不上宽裕。 他平时用这套设备干的事不少：搭应用、做网站、写脚本、拟短篇故事大纲、生成图片、扩写设计需求文档。但这次他想换个方向试试，看看还能把本地模型推到什么程度。 于是他给模型派了个活：造一个版本控制系统。不是GitHub的替代品——他明确说，那种需求用 Gitea 就够了——而是属于自己的、带仓库、带快照、功能齐全的版本控制系统。 10天与几小时 这个对比之所以有意思，是因为参照物太硬了。Git 的创造者 Linus 当年写出 Git，用了大约 10天 。 而这位作者用本地大模型跑完同样的目标，只花了 几个小时 。 注意这里说的不是"生成一段代码"，也不是"补全一个函数"。他要的是一个能用的版本控制系统：仓库要有，快照要有，该有的都得有。这是一个完整的工具，不是演示片段。 20GB显存能做什么 这件事的另一层信息在硬件上。RX 7900 XT 配 20GB 显存，在本地跑模型的圈子里属于入门偏上的配置，离专业AI开发硬件还有距离。 作者自己也承认，考虑到AI开发的各种硬件选项，20GB"不算多"。但就是在这个前提下，他把一个原本需要资深工程师花上十天量级的项目，压缩到了几个小时。 他没有展开讲模型具体怎么实现、代码质量如何、后续维护成本多大。这些都不在这条记录里。能被确认的只有一件事：任务下达了，模型完成了，时间对比摆在那里。 从搭应用到造工具，本地大模型能接的活正在变重。10天和几小时之间，隔着的可能不只是算力。 特别
发表评论