Jeva

论文基本信息

• 题目：Jeva: System One Models from First Principles
• 作者：Qi Li、Xinchao Wang
• 机构：新加坡国立大学（National University of Singapore）
• arXiv：2610.18773v1，2026 年 10 月 13 日提交；类别 cs.AI
• Daily Papers：Hugging Face 页面 2026 年 10 月 14 日榜首
• 模型：Jeva-4B，以 Qwen3.5-4B 为共享编码骨干，增加 13,370,117 参数的投影与决策核心，并以 rank-64 LoRA 训练骨干
• 开源状态：论文、项目页、代码与 Jeva-4B 权重均已公开
• 链接：Hugging Face 详情页；arXiv 摘要页；arXiv HTML 全文；arXiv PDF 全文；项目主页；代码仓库；模型权重

一句话结论

Jeva 的价值不只是把分类器做得更快，而是把“从一组候选中作决策”重新定义为有明确结构约束的计算：候选顺序不应改变结果，候选数量不应决定输出层形状，没有合适答案应成为独立事件，重复出现的候选描述则应可缓存。论文用独立编码、集合条件化状态更新、coverage gate 和候选级缓存把这四点放进同一架构，并在顺序稳定性、空答案检测、2,048 候选扩展与长文档复用上给出强结果；但训练数据构成复杂，效率主要在单张 H200 上测量，且尚未验证真实智能体中的端到端任务收益。

背景与动机

System One 模型解决的不是“生成”，而是“立即决策”

工具路由、意图识别、文档选择、条件判断和量表评分通常不需要长篇推理文本。系统真正想要的是低延迟的类型化输出：选哪个工具、有没有匹配项、某项得多少分。论文把这类直接决策模型称为 System One 模型，与生成推理链的慢速路径区分开来。

现有方法经常把请求、问题和所有候选项串成一段文本，再从答案 token 的 logits 或专用 head 读取结果。这种做法能够工作，却没有从结构上尊重“候选集合”这一对象：

1. 空答案与候选间不确定性混在一起。 softmax 只能说明候选之间谁更像答案，即使全部都不合适，它仍必须分配总概率 1。
2. 无序集合被写成有序序列。 调换候选顺序可能改变 token 上下文和最终选择。
3. 输出空间可能绑定候选数量。 固定答案符号或固定位置 head 很难自然扩展到任意大小的候选集。
4. 候选内容被反复计算。 同一工具说明、文档或评分 rubric 会服务很多请求，但联合编码让每个新请求都要重新处理它们。

Jeva 的出发点是：这些不是靠更多数据“最好能学出来”的偏好，而应尽量成为架构本身的性质。

为什么双塔检索还不够

把请求和候选分别编码，像 Dense Passage Retrieval 那样预先计算候选向量，天然适合缓存和大规模检索。但最简单的独立打分存在表达限制。若候选分数为 g(request, option)，softmax 后任意两个候选的 log-odds 只由二者分数差决定；增加第三个候选虽然会改变概率归一化，却不能反转原有两者的相对偏好。

真实决策往往依赖候选集合的语境。例如“最合适的工具”可能因工具箱里出现更专门的工具而改变，评分 rubric 中某个等级的意义也受相邻等级影响。Jeva 因而不满足于独立检索，而是保持候选表示可复用，同时让请求状态读取整个候选集合后再作判断。

核心贡献

1. 提出面向类型化决策的 Jeva 架构，将请求与每个候选项独立编码；候选表示保持不变，只更新请求状态，从而兼顾候选缓存与集合条件化判断。
2. 用对候选置换对称的聚合和共享打分，给出候选概率的 permutation equivariance：候选重排只会相应重排概率，不会改变语义上的选择，也无需顺序一致性损失。
3. 将“候选间竞争”与“是否存在有效候选”拆分为条件分布 q 和 coverage ρ，显式产生 null 概率，避免把空答案仅当作又一个普通候选。
4. 以同一分布支持 Choice、Noul 和 Score 三类输出，并证明单个决策块已经能表达独立打分器无法表达的集合依赖偏好反转。
5. 设计 exact-set 与 hybrid option cache。后者能在候选集合重新组合时复用单个候选的语义向量和逐层 key/value 投影，而不是只缓存完全相同的候选列表。
6. 在 Typed Decisions、BANKING77、MASSIVE、Mind2Web、ToolRet 与 MLDR 上评估质量、空答案、顺序稳定性、大集合扩展和缓存效率，并开放代码与模型权重。

方法：把候选集合变成可复用的决策内存

1. 请求与候选独立编码

一个输入由状态 x、问题 ι、决策类型 t 和候选集合 O={o1...oK} 构成。Jeva 使用同一个语言骨干，但采用两种模板：

Decision type: {choice|noul|score}
Question: {question}
State:
{state}

Option for {choice|noul|score}: {option}

请求模板包含当前问题和状态；候选模板不包含请求、候选位置或其他候选。两者分别经过 Qwen3.5-4B，以最后一个非 padding token 的 hidden state 池化，再投影到决策空间：请求得到 z0，候选得到归一化向量 ui。部署模型的骨干池化宽度为 2,560，决策宽度为 768。

这一步明确了缓存边界：只要模型权重、tokenizer、模板、截断策略和数值配置不变，同一个类型下的同一个候选就能得到相同表示。请求仍会每次重新编码，因此缓存的是候选计算，不是旧答案。

2. 只更新请求状态，候选内存保持不动

Jeva-4B 使用一个决策块、8 个 attention head，每个 head 宽度 96。每个 head 根据当前请求状态产生 query，由固定候选向量产生 key 和 value，再对候选作温度控制的 softmax 聚合：

candidate weights = softmax(cosine(query, key) / τset)
message = output_projection(weighted_sum(values))
new state = state + scaled_message + SwiGLU_residual

只有请求状态 z 随决策块演化，候选向量以及由其产生的 key/value 不变。聚合是候选上的对称求和，所以重排候选不会改变聚合消息；最终对所有候选应用同一个点积读出，因此概率会随候选身份一起重排。

作者还给出一个二维构造：同一请求、同样保留候选 A 和 B，仅把第三个候选从 C+ 换成 C−，单个决策块就能分别让 A 或 B 获胜。独立打分器的 A/B log-odds 与其他候选无关，无法同时实现这两个结果。这证明“候选可缓存”不等于“候选必须彼此独立地决定结果”。

3. 把候选竞争与答案覆盖分开

最终请求状态与候选向量点积得到分数 si，条件候选分布为：

q = softmax(s / τdec)

q 回答的是“假设至少有一个候选有效，应该选谁”。Jeva 另用最高候选分数估计 coverage：

ρ = sigmoid((max(s) - bcov) / τcov)
p(null) = 1 - ρ
p(option_i) = ρ × q_i

这种分解对应 P(Y=i)=P(Y≠null)P(Y=i|Y≠null)。它避免了普通 flat softmax 的一个问题：当 null 与 K 个同分候选一起归一化时，null logit 会被强制带上 -log K 项，候选数量增加本身就会改变覆盖判断。Jeva 在最终分数固定且新增候选未超过现有最高分时，ρ 不变。

需要注意，这不是说新增候选永远不影响答案。候选集合会参与前面的状态更新，所以最终分数可能变化；即使 ρ 不变，候选间概率也会重新分配。论文保证的是 coverage 没有被一个必然的基数分母机械扭曲，而不是对任意集合扩展都保持同一个联合 argmax。

4. 一套概率支持三种输出

• Choice：闭集任务从 q 选候选；允许空答案时从 p(null), p(option_i) 联合选择。
• Noul：提供 false/true 两个布尔候选，返回正类候选的条件概率。这里 Noul 是普通布尔判断，不等于 coverage gate 的 null 概率。
• Score：为候选 rubric 附上数值 vi，输出期望 Σ q_i vi。数值只解释读出，不加入候选文本。

例如“问题有多严重”可将 Low、Medium、High 映射为 0、1、2；模型先给出三个等级的条件分布，再计算期望分。这样选择、判断和评分共享语义编码与决策机制，不需要三个独立模型。

5. 训练目标与课程

对于包含 null 的目标分布，主损失由 coverage 的二元交叉熵和候选条件交叉熵组成。全 null 样本只监督“是否有答案”，不会强迫模型在都不正确的候选之间制造一个伪排序。Noul 另有 Brier/margin 辅助项，Score 另有期望误差与累计分布辅助项。

训练使用 rank-64、scaling 128、dropout 0.05 的 LoRA，同时更新两侧投影和决策 head；决策部分约 13.37M 参数。推理前将 LoRA 合并到骨干。课程覆盖：

其中约 1.5 万条样本按 7:3 混合原目标与教师概率，但只有教师在两次独立候选乱序下都保持正确 top prediction 才接受其指导。这一规则与论文追求的顺序稳定性相呼应，不过报告的阶段计数包含 replay，不能直接相加解释为互不重复的独立样本总数。

6. 两级缓存与复杂度

每个候选缓存语义向量 ui，以及决策各层所需的 key/value 投影。系统提供两种复用：

• Set cache：完全相同的有序候选元组命中时，复用组装好的候选内存。
• Hybrid cache：新候选集合即使整体未命中，也能逐项复用其中已经出现过的候选，只编码缺失项。

在固定宽度和层数下，预备好候选内存后的决策计算对 K 线性增长，不构造 K×K 候选交互矩阵。候选银行存储量为 O(M(L+1)d)；发出所有 K 个候选的稠密分布本身也至少需要 Ω(K) 输出工作。

缓存不是免费的。模型或 tokenizer 更新、模板与长度策略变化、数值配置变化都需要失效旧内存；每个候选仍受单文本长度上限约束；候选银行越大，向量和逐层投影的存储也越大。

实验设计

通用与类型化决策

主要评估集包括：

• Typed Decisions：2,000 条测试决策，包括 600 Choice、600 Noul 和 800 Score；
• BANKING77 与 MASSIVE：分别在 8 和 16 个候选下测试意图选择，并包含答案存在与被移除的开放集样本；
• Mind2Web：cross-task、cross-website、cross-domain 三个切片，每次从 16 个候选中选择；
• 顺序测试：对 600 条 Choice 使用原顺序、逆序及最多三种固定随机置换。

不同 baseline 的空答案接口并不一致。JevK5 和 CLM 增加显式 None 候选；Jev、InternDecision、KEV 等通过额外 Noul 问题估计 coverage，再与原候选分布组合。这个适配使比较成为可能，但也意味着结果同时反映模型能力和接口设计。

大候选集与缓存

ToolRet 使用 500 个请求，分成互不重叠的 32、128、256、512、1,024 和 2,048 候选 cohort，每组 83 或 84 个请求。389 个请求有多个正项，新增项包含弱标注或未判定负例；任一最高目标分候选命中都算正确。

缓存实验覆盖 171 个 episode、2,188 个已测请求身份，比较 Cache-Off、Set 与 Hybrid。新集合复用测试让预热请求使用不同问题与不同候选集合，从而确保整组缓存命中为零，只检验单候选复用。延迟在单张 NVIDIA H200 上同步计时，不含模型加载；不同模型使用各自原生 runtime，模型内部的 batch/cache 对比才固定 checkpoint 与请求流。

主要实验结果

1. 通用决策质量在八个切片中领先七个

这些是包含 null（如适用）的 first-argmax accuracy，且只在完整支持的切片上比较。它说明 Jeva 并未用结构性约束交换掉一般决策质量，但不能据此断言架构贡献与训练课程贡献各占多少，因为 Jeva 的数据、损失和接口也同时变化。

2. 顺序稳定性是架构最干净的证据

在 600 条 Choice 的多顺序测试中，Jeva 的 decision flip 为 0%，对齐候选身份后的平均 total variation 仅 3.17×10^-8，原顺序与 all-order accuracy 都是 76.67%。相比之下：

• Jev-1.13.0：17.00% 样本发生翻转，all-order accuracy 66.67%；
• InternDecision-4B：22.67% 翻转，all-order accuracy 64.50%；
• JevK5：26.17% 翻转，all-order accuracy 47.83%。

这是论文最有说服力的一组结果，因为置换对称来自计算图，而不是期待模型从增强数据中近似学会。严格说，证明假设精确算术且唯一最大值；浮点归约或完全并列仍可能需要身份级 tie-break。实测的 3.17×10^-8 也说明数值概率不是逐 bit 相同。

3. 空答案检测显著提升

在 3,080 条 BANKING77、16 候选请求中，有 588 条答案缺失。Jeva 的 null-detection AUROC 为 98.66%，高于 KEV-BF16 的 93.61%、InternDecision-4B 的 84.27% 和 JevK5 的 79.44%。在 5.02% false-positive rate 下，它检出 93.88% 的答案缺失样本。

类型化质量上，Jeva 的 Noul Brier 为 0.0184、MAE 为 0.0939，均为最好；Score MAE 为 0.2315，最好，RMSE 0.3222 略逊于 InternDecision-4B 的 0.3208。结果支持“coverage 与 competition 分离”在该评估上的有效性，但 null 检测仍是 BANKING77 上的离线二分类，并非风险敏感系统中的拒答安全证明。

4. 原生支持 2,048 候选，但冷候选编码仍昂贵

ToolRet 六个候选规模上，Jeva 覆盖全部 500 个请求，整体准确率 78.40%；递归选择的 JevK5 为 64.00%。到 2,048 候选时，Jeva 准确率为 69.88%，JevK5 为 67.47%。在同一组 83 个嵌套请求上，Jeva 有 58 个请求从 32 扩展到 2,048 候选始终正确，JevK5 为 48，CLM 为 7；对应 all-size accuracy 为 69.88%，比 JevK5 高 12.05 个百分点。

长度感知 batching 对实际速度影响很大。采用最多 256 行、131,072 padded token 的 batch 后：

• K=1,024 的 p50 从 31.730 秒降至 7.519 秒；
• K=2,048 的 p50 从 94.459 秒降至 12.040 秒，提速 7.85 倍；
• 同一 K=2,048 点，JevK5 约为 28 秒。

这说明架构可以在一次 decision-head pass 中看完整集合，不受固定答案槽限制；也说明“可扩展”不等于“冷启动便宜”。未缓存的 2,048 个候选仍需分别经过 4B 编码器，优化后在 H200 上的 12 秒也不属于交互式低延迟。

5. 真正的低延迟收益来自候选复用

在 MLDR 长文档新集合测试中，整组 set cache 必然 miss：

• 约 50% 单候选复用时，Hybrid 的 p50 提速 1.95 倍；
• 100% 单候选复用时，p50 从 2,102.0 ms 降到 75.1 ms，按汇总中位数为 27.98 倍、按配对请求中位数为 27.86 倍；
• 只做 exact-set cache 的延迟仍约 2.1 秒，因为新组合无法命中整组。

共享候选银行场景下，Typed Decisions p50 从 93.1 ms 降到 Set 的 46.6 ms 和 Hybrid 的 46.7 ms，避免 99.2% 候选行编码；预热后的 MLDR 从 2,097.3 ms 降到约 74 ms。各缓存条件没有改变最终决策，最大绝对概率差为 0.00736。

最后一个数字值得保留：理论上的 cache identity 依赖精确、确定性计算，而真实 BF16/FP32 混合实现和 batching 会有数值差异。论文证明了语义等价路径，也诚实报告了实际概率并非完全相等。

如何理解这篇论文

它不是更快的生成模型，而是独立的决策层

Jeva 不生成解释或动作计划。它接收已经定义好的状态、问题、类型和候选，输出候选概率、布尔概率或评分期望。最适合它的位置是大型系统中的路由器、检索器、验证器和 rubric scorer，而不是替代负责开放式推理的主模型。

四个性质中，有些是保证，有些是学习结果

• 候选置换等变来自对称聚合与共享读出，在唯一最大值和确定性计算条件下具有结构保证。
• 输出参数不随 K 变化，复杂度对 K 线性增长，也是架构性质。
• 候选表示可缓存来自独立模板和不变候选内存，但实际收益取决于命中率、候选长度、缓存容量与失效频率。
• null 检测精度并非自动保证。架构只是把 coverage 独立建模，98.66% AUROC 仍来自数据、训练和校准。

把这四项都笼统称为“模型学会了”或都称为“数学保证”，都会失真。

集合条件化是检索双塔与全量交叉编码之间的折中

普通双塔最容易缓存，却不能让其他候选改变 A 与 B 的相对偏好；全量交叉编码交互丰富，却把所有候选放进请求相关的重复计算。Jeva 先把每个候选压缩为一个可复用向量，再让小型 decision block 汇聚整个集合。它得到集合依赖判断，但没有恢复 token-to-token 的完整跨编码交互。

因此 Jeva 的核心工程判断是：多数类型化决策所需的候选交互可以发生在紧凑向量空间，而不必每次重跑长文本联合 attention。实验支持这个判断在所测任务上成立，但更细粒度的法律条款比对、代码片段差异或多证据组合，可能仍需要更丰富的 late interaction 或交叉编码。

局限与审慎解读

• 训练配方与架构收益尚未完全拆开。 Jeva 同时改变结构、开放集损失、类型辅助损失和多阶段课程。主表证明完整系统强，却不足以量化每个部分的独立贡献。
• 训练数据说明以阶段计数为主。 计数包含 replay，部分数据使用教师软概率；论文没有把所有来源、去重、污染检查和许可按可审计清单展开，独立复现实验仍需依赖发布代码与数据配方。
• 候选被压缩成单向量。 last-token pooling 有利于缓存，却可能丢失长候选内部的细粒度证据。论文的长文档缓存展示速度，未系统比较不同 pooling 或 token-level late interaction 的质量代价。
• 冷启动大集合仍慢。 K=2,048 经 batching 后 p50 仍为 12.040 秒。论文最强的 20 倍以上加速建立在候选已预热、复用率高的场景，不应外推到不断出现新候选的开放环境。
• 缓存有存储与运维成本。 每项要保存语义向量和逐层 key/value；模型、tokenizer、模板、截断或数值配置变化都必须失效缓存。论文报告计算复杂度，但没有给出超大生产候选银行的容量、淘汰和更新吞吐。
• 大集合 benchmark 含弱或未判定负例。 ToolRet 允许多正项，新增项部分没有强负标注，任一 tied-top 目标即算正确。这适合压力测试，但可能高估对真正困难 hard negatives 的判别能力。
• 效率比较不是完全同构。 延迟在单张 H200 上测量，不同 baseline 使用各自 runtime 和接口；只有同模型的 batching/cache 消融是严格固定 checkpoint 与请求流的配对比较。
• 空答案不等于安全拒答。 coverage gate 建模“候选集中没有有效项”，不直接衡量越权风险、成本敏感错误、分布外输入或人类升级策略。部署仍需阈值校准和业务风险控制。
• 顺序保证有边界。 完全并列时，返回第一个最大索引会再次引入位置效应，需要按候选身份打破平局；浮点归约与不同 batching 也会造成微小概率变化。
• 没有真实智能体端到端验证。 Mind2Web 切片和工具候选选择是有价值代理任务，但论文没有报告接入完整 agent 后的成功率、错误恢复、总体成本或用户延迟。
• 论文仍是 arXiv v1。 目前只有两位作者的首版预印本，结果尚未经过同行评审，也缺少外部团队复现。

应用影响

工具与 API 路由

工具描述通常长期稳定，而请求不断变化，正适合 hybrid cache。Jeva 可以在数百或数千工具中选择，显式判断“没有合适工具”，并避免候选顺序引起路由漂移。生产系统仍应把权限、危险等级和调用成本作为独立 policy 层，不能只按最高模型概率自动执行。

企业检索与长文档选择

法规、手册、知识库段落可预先形成候选内存；新查询只编码请求并读取已缓存文档。MLDR 的长文本结果说明复用能显著降低延迟。若任务需要定位文档内部的精确证据，可让 Jeva 先做候选级路由，再把少量文档交给 cross-encoder 或生成模型精读。

智能体动作与 GUI 元素选择

Mind2Web 上的优势说明它适合从当前页面允许动作中选择目标。置换稳定性尤其重要，因为 DOM 遍历、工具注册或后端返回顺序不应改变语义决定。实际 GUI agent 还需处理候选召回错误、页面变化、动作可逆性和执行后反馈。

内容审核、验证和评分

Noul 可判断规则是否成立，Score 可对固定 rubric 计算期望分。候选等级表示可复用，适合大量文本按同一标准审核。若评分标准更新，相关缓存必须整体失效；若 rubric 各级边界需要逐 token 对照，单向量瓶颈也可能成为问题。

级联系统的快速第一阶段

Jeva 最自然的部署方式是与慢速推理模型组成级联：高 coverage、高 margin 的常见请求由 Jeva 直接处理；低 coverage、候选接近或高风险请求升级给生成式推理器或人工。论文没有直接评估这套 cascade，但其显式 null 概率和类型化输出为阈值路由提供了比普通 softmax 更清晰的接口。

相关工作

第一类是 直接类型化决策模型。SemIf 与 JevK5 从答案 token logits 读取选项概率；Intern-Decision 使用决策标记和允许的答案符号；KEV 以 pointer head 读取候选位置；Laya 用双向编码器和专用决策 head；ReFlex 则聚合多种候选顺序以减轻位置敏感。Jeva 的差异是让候选顺序不变性成为计算结构，并将候选侧计算从请求侧分离。

第二类是 双塔检索与 late interaction。DPR 证明了独立问题/文档编码对大语料检索和预计算的价值，ColBERT 保留 token 级表示以增强细粒度交互，Contrastive Language Models 将独立编码扩展到 Choice、Noul 和 Score。Jeva 在此基础上加入集合条件化请求更新，使保留候选之间的相对偏好能够随集合变化。

第三类是 集合函数与 latent attention。Deep Sets 用共享变换和对称聚合刻画置换不变集合；Set Transformer 建模集合元素交互；Perceiver 用紧凑 latent 读取大输入。Jeva 将类似思想收缩成一个面向请求的状态：候选本身不相互更新，而由请求 latent 汇聚候选证据，避免形成二次复杂度矩阵。

第四类是 答案存在性、拒答与校准。SQuAD 2.0 关注问题是否有答案，selective classification 允许模型以覆盖率换取风险，temperature scaling 改善事后概率校准。Jeva 的 null 定义更具体：当前候选集合是否含有效答案。它将这一问题从候选间相对竞争中分离，但并不替代更广义的风险拒答与部署校准。

总结

Jeva 最重要的贡献是把一个常被序列化 prompt 掩盖的问题说清楚：候选决策有自己的结构，不能只因为语言模型“能输出 A/B/C”就认为问题已经被正确建模。null、顺序、候选规模和复用不是四个零散工程补丁，而是同一个架构边界问题。

论文给出的答案相当克制：共享 4B 编码器负责语义，把每个候选压成可缓存的稳定内存；一个 768 维、单块、8 头的决策核心只更新请求状态；共享读出负责候选竞争，coverage gate 单独判断答案是否存在。这个设计在八个主切片中领先七个，在顺序测试中实现零 decision flip，在 BANKING77 达到 98.66% null AUROC，并将完全复用的 MLDR p50 从约 2.1 秒降到约 75 毫秒。

更值得关注的是适用条件。Jeva 在候选重复、结构稳定、请求频繁变化时最有优势；候选持续新增、需要 token 级交叉证据或模型频繁更新时，缓存价值会下降。它目前证明的是一个强而清晰的 decision engine，而不是完整智能体。若后续工作能在真实工具生态中同时测量任务成功率、危险误调用、缓存失效成本和端到端延迟，Jeva 所主张的“从第一性原理构建 System One”才会从架构论文进一步变成系统范式。

参考资料

1. Hugging Face Daily Papers：Jeva
2. arXiv：Jeva: System One Models from First Principles
3. arXiv HTML 全文
4. arXiv PDF 全文
5. Jeva 项目主页
6. Jeva 官方代码仓库
7. Jeva-4B 模型权重
8. Deep Sets
9. Dense Passage Retrieval
10. ColBERT