Laya:421M 非自回归 System 1 决策模型,33 毫秒一次前向传播
conval-laya
Convai Innovations 开源的非自回归 System 1 决策模型:421M 参数、ModernBERT 主干加 [MASK] 选项抽取,一次前向 33 毫秒给出带校准概率的决策,Apache-2.0;RLCD 严格适当评分规则训练校准概率;模型卡附对 Jev 的真实基准对比与诚实限制清单。定位边缘与高并发小决策(游戏 NPC、对话策略、请求路由),不是长推理或开放生成。
- 置信度
- 厂商宣称
- 只有官方模型卡/发布会,无独立复测
- 关键指标
- 单次前向延迟(421M,官方)
- 厂商宣称 · 2026-09
- 成熟度
- 研究
- 研究 → 演示 → 产品 → 生产
我们的判断水位判断：421M 加 33 毫秒把 System 1 决策压到可以进实时循环的尺寸，Apache-2.0 权重让复现门槛几乎为零，模型卡对 Jev 的正面对照与限制清单在开源发布里属高水位。但非自回归选项抽取的上限受选项集质量约束，RLCD 的校准在分布外是否保持诚实仍缺第三方复现；把它当「决策协处理器」而不是模型主力是正确用法。置信度标 C（厂商宣称）。
Laya 是 Convai Innovations 开源的非自回归 System 1 决策模型：421M 参数，ModernBERT 主干加 [MASK] 选项抽取，一次前向 33 毫秒给出带校准概率的决策，权重与代码以 Apache-2.0 release。它不生成文本，而是在给定选项集上抽取并打分，把「小决策」压进可以嵌进实时循环的尺寸。
训练侧用的是 RLCD 与严格适当评分规则：目标不是人类偏好排序，而是让输出概率在统计意义上诚实——置信度可以直接当决策风险用。这是它与 RLHF 系决策头最根本的分野，也是模型卡里写得最清楚的一节。
模型卡附了对 Jev 的真实基准对比与一份诚实限制清单（选项集覆盖、分布外校准缺口、多语言档位差异），是我们读过的少数直接点名对照竞品的开源发布；同族还有 laya-multilingual 与 laya-typed-decisions 两个变体档。
定位边界：边缘与高并发小决策（游戏 NPC、对话策略、请求路由），不是长推理或开放生成；选项集质量决定上限，开放域问题需要先由顺序模型把候选集写出来。