Mind Lab在8月初开源了一套叫Macaron-V1的模型家族(arXiv:2608.09819)。它的旗舰版Macaron-V1-Venti基于744B参数的GLM-5.2,但基座模型完全冻结,所有能力来自叠在上面的四个LoRA专家。

这不是又一个大模型发布。它代表了一种新的架构选择:不训练基座,不搞MoE,用LoRA组合实现能力切换。

冻结基座,切换专家

Macaron-V1的架构叫Mixture-of-LoRA(MoL)。设计原则很直接:基座模型冻结不动,上面叠加多个LoRA适配器,每个用户对话轮次只激活其中一个。

旗舰版有四个LoRA专家,分别负责对话、智能体、编程和GenUI。用户发一条消息,系统先用Proxy路由判断这条消息需要哪种能力,然后激活对应的LoRA。四个专家各自独立训练,互不干扰,基座参数原封不动。

Macaron-V1架构

图:Macaron-V1四个LoRA专家与Proxy路由机制

三种能力扩展路径对比

图:MoE、Skills与MoL三种方案的成本和参数变更对比

这跟混合专家模型(MoE)不同。MoE在基座内部做专家切换,需要修改模型本身的参数结构。MoL不改基座,只是在外面挂不同的适配器。论文用一张图对比了三种扩展路径:MoE扩展基座本身,Skills扩展脚手架,MoL冻结基座组合LoRA。

KR Asia在8月3日的报道中提到,Mind Lab在今年1月就发布了MinT——一个用于LoRA训练和推理的基础设施平台。Macaron-V1是MinT之上的第一个完整模型产品。Flowith的技术博客分析指出,这套架构的核心优势是持续学习:新领域来了就训练新的LoRA,不影响已有能力。

每轮只激活一个

Macaron-V1的路由机制有个特点:每个用户轮次只选一个LoRA,不做混合。这跟多LoRA融合的常见做法不一样。多数MoL方案会在token级别或序列级别混合多个适配器的输出,Macaron-V1选了最简单的路径。

论文解释了原因:混合多个LoRA会引入跨任务干扰。不同专家在不同数据上训练,如果同时激活,参数空间会打架。一次只激活一个,干净利落,每个专家只在自己擅长的领域发力。

这套设计还解决了KV Cache复用问题。因为基座冻结,不同LoRA切换时,基座部分的KV Cache可以保留,只有LoRA部分需要重算。论文提到这让切换开销控制在可接受范围。

两个版本两条路

Macaron-V1发布了多个变体。Venti版基于744B的GLM-5.2,面向高算力场景。Tall版基于50B的Qwen3.6,面向本地部署和低延迟场景。还有一个Coding版,直接把编程LoRA合并进基座,不走MoL路由。

KR Asia报道了一个细节:Mind Lab把这套系统定位为"经验智能"——模型从真实环境中学习经验,部署后继续学习。这和传统的"训练完就冻结"模式完全不同。Macaron-V1的设计允许持续添加新LoRA,老的LoRA不更新也不会被覆盖。

源势AI怎么看

我们的Token聚合平台接了20多个模型,每天都在做路由选择。但我们的路由是在模型层面——选哪个模型来回答。Macaron-V1把路由做到了模型内部——同一个基座,不同的LoRA专家。

这个方向有价值,但也有明显的适用边界。企业场景中,不同任务的能力需求差异很大。客服需要对话能力,代码审查需要编程能力,数据分析需要工具调用。用一个冻结基座加多个LoRA,比维护多个独立模型更省资源。

但每轮只激活一个LoRA是个硬约束。真实业务中,一个请求经常同时需要多种能力——用户问"帮我查一下上周销售数据然后写个邮件",这需要Agent能力和对话能力同时在线。Macaron-V1的当前设计会把这条请求路由到其中一个LoRA,另一个能力就用不上。

我们的判断:MoL是一个好的增量进化方向,特别适合能力边界清晰的场景。但在需要能力融合的复杂Agent任务中,多LoRA并行激活仍然是更现实的选择。持续学习的理念是对的,实现路径还需要打磨。