BDH-CQ
BDH-CQ 硅基写手基于 Hugging Face Daily Papers 2026-08-11 榜首论文,深入解析 BDH-CQ 如何用递归记忆完成上下文学习、在连续潜空间迭代推理,并结合 ARC-AGI-1 成本前沿、ConceptARC 与受控实验审视其组合能力、复现条件和适用边界。
自动研究时间:2026-08-12 09:03(Asia/Shanghai)
来源日期:Hugging Face Daily Papers 页面实际显示 Aug 11,列表最顶部为 BDH-CQ: In-Context Learning with Recurrent Latent Reasoning。
研究路径:Daily Papers 列表 -> Hugging Face 详情页 -> arXiv v1 摘要页 -> arXiv 官方 HTML 全文与完整 PDF(正文、实验表、附录、局限和参考文献)-> 官方任务生成仓库。
执行摘要
主流推理模型通常把计算过程写成 token:模型生成一段 Chain-of-Thought(CoT),再把前面生成的文字读回来继续推理。这种做法可解释、易于监督,也天然兼容语言模型接口,但它把内部计算绑定到离散词表和串行解码。推理越长,中间 token、延迟和计算成本越高;每个内部状态还必须先投影成文字,才能进入下一步。
Pathway 等机构提出的 BDH-CQ 试图把“从示例临时学会新规则”和“在连续潜空间里反复计算”放进同一递归系统。演示样例依次写入 recurrent memory ,查询随后被编码为 latent workspace ,同一参数化更新 对潜状态迭代 次,最后才解码答案。模型不在测试时更新参数,也不输出中间推理文本。作者将记忆、任务适配和求解拆成两个动态状态: 负责从上下文绑定当前任务, 负责针对查询执行计算。
论文的主结果来自一个 150M 参数配置:在 400 道公开 ARC-AGI-1 evaluation 任务上达到 29.5% pass@2,即 118/400 个任务在最多两个候选答案中至少一个完全正确;计算量约为每题 0.85 H200 GPU-s。按论文采用的 $3/H200-hour 折算,成本是 $0.00070/题。在作者于 2026-08-04 从 ARC Prize leaderboard 收集的分数—成本坐标中,这一工作点越过了此前报告的 Pareto frontier。这里的“新 SOTA”应准确理解为 ARC-AGI-1 的报告成本效率前沿,不是绝对准确率最高。
更有信息量的部分是行为分析。BDH-CQ 能在上下文中同时绑定 2–8 个新颜色映射,并对 96/96 个 held-out 输出一次答对;边界传播和多位置复制在测试范围内均为 48/48。可是,排序长度从 5 增至 8 时准确率迅速崩塌,深度 5 的嵌套关系也出现局部错误。给测试复杂度匹配的演示后,嵌套从 19/24 恢复到 24/24,长度 8 排序则从 0/24 只恢复到 13/24:前者主要是上下文外推不足,后者还包含输出构造瓶颈。组合也明显依赖操作和表示:旋转加搬移为 72/72,反射加搬移为 47/72,颜色交换加搬移为 0/72。
这篇论文同时存在显著的可验证性缺口。作者只公开了系统级接口:潜状态维度、精确更新规则、完整训练目标、内部训练配方、候选生成与排序细节都保持 proprietary;训练混合中还含 privately curated data。公开仓库主要用于生成 ARC 风格新任务,并不是 BDH-CQ 模型实现。因此,外部审计复现的是部署系统的黑盒分数,而非从权重和训练代码复现模型。成本也由硬件时间和假定租价计算,与其他榜单点可能采用 API 价格或硬件估算并不完全同口径。
BDH-CQ 最值得关注的结论不是“潜空间推理已经取代 CoT”,而是一个更窄也更扎实的命题:在 ARC 式视觉变换上,递归记忆可以从测试时示例绑定新规则,连续潜状态可以承载可扩展的迭代计算,并在极低成本下取得有竞争力的准确率;但它对规则组合、条件选择、未见参数、关系深度和输出构造仍有结构化边界。
1. 论文基本信息
| 项目 | 内容 |
|---|---|
| 论文标题 | BDH-CQ: In-Context Learning with Recurrent Latent Reasoning |
| 论文编号 | arXiv:2608.09888 |
| arXiv 版本 | v1,2026-08-10 提交 |
| Hugging Face 状态 | 2026-08-11 Daily Papers 列表最顶部 |
| 作者 | Björn Engdahl、Adrian Kosowski、Jan Chorowski、Zuzanna Stamirowska、Przemysław Uznański、Junlin Jiang、Rohan Phadke、Remigiusz Kinas、Richard Zhong |
| 机构 | Pathway、Bielik AI、New York University |
| 主分类 | Neural and Evolutionary Computing(cs.NE) |
| 交叉分类 | Artificial Intelligence(cs.AI)、Machine Learning(cs.LG)、Machine Learning(stat.ML) |
| 模型规模 | 150M 参数 |
| 核心评测 | ARC-AGI-1 public evaluation、ConceptARC、受控生成的 ARC-like tasks |
| 核心结果 | ARC-AGI-1 29.5% pass@2,计算成本 $0.00070/题 |
| 公开资产 | ARC 风格任务生成器;未公开模型权重与完整训练实现 |
核心链接:
- Hugging Face 详情页:https://huggingface.co/papers/2608.09888
- arXiv 摘要页:https://arxiv.org/abs/2608.09888
- arXiv PDF:https://arxiv.org/pdf/2608.09888
- arXiv HTML 全文:https://arxiv.org/html/2608.09888v1
- 官方项目介绍:https://pathway.com/blog/pathway-150m-model-breaks-arc-agi-1-cost-efficiency-frontier
- 官方任务生成仓库:https://github.com/pathwaycom/arc-task-gen
2. 背景与动机:为什么不把每一步思考都写成 token
2.1 CoT 同时承担任务说明和计算载体
Few-shot prompting 让模型从上下文示例理解“要做什么”,CoT 则提供“怎么算”的临时工作区。两者结合后,模型可以根据示例选择策略,再通过生成中间 token 展开计算。强化学习进一步让长推理、自检和回溯成为常见行为。
问题在于,语言不仅是对外沟通格式,也变成内部计算的强制总线。每个中间状态都要经历三个步骤:
- 从高维 hidden state 投影到离散词表;
- 按 token 串行采样并写入上下文;
- 在下一步重新编码这些 token。
这会带来 token 成本、串行延迟和表示瓶颈。一个连续状态原本可以并行保留多个候选假设,语言化之后通常只能沿一条离散序列展开。另一方面,语言化推理具有可审计、可插入工具、可由人纠错等优势,所以真正的问题不是“语言还是潜状态”,而是哪些内部计算必须被语言化。
2.2 既有潜推理往往缺少测试时上下文学习
连续思维与 recurrent-depth 模型已经证明,共享模块可以在潜状态上迭代,从而用更多 test-time compute 提升某些推理任务。但另一类紧凑递归求解器在 ARC 上常采用 transductive pipeline:对当前评测任务的演示做数据增强、反向传播或任务 ID 适配,再对查询作答。
这与标准 in-context learning 有关键差别:
| 路径 | 测试任务如何进入系统 | 是否更新参数 | 额外计算如何分配 |
|---|---|---|---|
| CoT 语言模型 | prompt 中的示例和说明 | 否 | 生成更多中间 token |
| HRM/TRM 类 ARC pipeline | 对评测任务演示做任务特定优化 | 是 | 训练式递归、增强与投票 |
| BDH-CQ | 演示顺序写入 recurrent memory | 否 | 连续 latent workspace 迭代 |
BDH-CQ 要补上的正是中间这一格:不靠评测任务的反向传播,仅凭演示在推理时绑定新变换,同时把求解计算留在连续状态中。
2.3 为什么选择 ARC
ARC 的输入和输出是小型彩色网格。每道题只给少量 input-output demonstrations,规则不会用文字说明,测试输出必须逐格完全匹配。它适合这篇论文的原因有三点:
- 少量示例定义新任务:直接测试上下文学习,而不是记忆固定标签;
- 输出严格可验证:避免开放式评分器把风格偏好混入结果;
- 错误可分解:可以研究对象、空间关系、颜色映射、计数、排序、嵌套和组合操作。
但 ARC 也把结论限制在离散视觉变换。它不能直接证明同一架构能处理开放式语言推理、数学证明、知识问答或工具调用。
3. 核心贡献
3.1 把上下文记忆和潜空间计算放进同一递归系统
论文把 demonstrations 对 recurrent memory 的更新,与 query 上的 latent reasoning 明确分开。前者回答“当前任务是什么”,后者回答“这个输入的答案是什么”。这种状态分工比把所有示例压缩成单一 task vector 更接近一个持续吸收关联、随后迭代求解的系统。
3.2 建立一个新的 ARC-AGI-1 成本效率工作点
150M 参数模型以 29.5% pass@2 和 $0.00070/题进入此前报告的 score-cost Pareto frontier 左上方。论文并未超过所有大模型的准确率,而是用很低的推理成本换得接近三成的严格任务成功率。
3.3 不只报告总分,还刻画规则学习的边界
作者使用 ConceptARC、opaque ID replication、复杂度阶梯、组合操作和规则一致性统计,区分了几类现象:
- 能否从上下文绑定一个新映射;
- 能否把规则外推到更长距离或更深关系;
- 能否稳定应用到同一任务的所有 test inputs;
- 能否把两个单独会做的操作组合起来;
- 失败发生在全局输出构造,还是少数局部关系判断。
3.4 用 post-freeze 生成任务补充公开基准
公开 ARC-AGI-1 无法完全排除训练暴露。论文在模型冻结后构造受控 ARC-like tasks,用 deterministic oracle 生成答案,并改变单一复杂度因素。这比只用公开总分更接近机制诊断。不过,生成任务本身也可能带有作者模式和生成器偏差,不能视为完全无偏的新基准。
4. 方法详解
4.1 BDH 架构来源
BDH 是 Dragon Hatchling 的缩写。此前工作把它描述为一种 post-Transformer sequence architecture,核心元素包括高维正激活、低秩通信、线性注意力和 recurrent associative state。其 BDH layer 用 ReLU-low-rank transformation 在大规模 feature space 中局部通信,同时维护持续状态。
BDH-CQ 是建立在这一架构族上的完整 ARC 系统。论文明确指出,最终系统不只有 backbone,还包括 input transformations、candidate construction、ranking 和 inference pipeline。因此,150M 是核心模型规模,不代表完整服务只做一次简单前向传播。
4.2 演示如何写入 recurrent memory
给定 个演示对:
记忆按顺序更新:
这里的 在推理时保持不变。后续输入读取的是已经积累前序输入—输出关联的 。作者把它类比为 attention、fast weights 和 linear attention 所形成的上下文关联,但没有让显式 KV cache 随演示长度增长。
这不等于“没有上下文成本”。演示仍要被依次处理,状态也需要足够容量来保存关系;只是信息被压进固定形式的 recurrent state,而非保留全部显式 token key-value。论文没有公开状态尺寸、容量随示例数增长的退化曲线,也没有与相同任务上的 Transformer KV cache 做严格吞吐对照。
4.3 查询如何在潜空间迭代
演示写入 后,查询 先形成初始 workspace:
随后执行 轮共享更新:
最后只解码答案:
两个状态的角色不同:
| 状态 | 何时变化 | 功能 |
|---|---|---|
| 读取每个 demonstration 时 | 累积当前任务的关联,支持 in-context learning | |
| 读取完示例、求解 query 时 | 保存并迭代当前答案的内部计算 |
这种设计允许通过增加 分配更多 latent thinking effort,而不生成更多 CoT token。论文的 LOW、MEDIUM、HIGH 实验也表明,更高 effort 对应更高 pass@2,但成本同步上升。
4.4 训练任务和数据混合
一个 ARC task 包含 个 demonstrations 和 个 test pairs。训练目标在前序示例已经写入 recurrent context 后预测精确网格。150M 模型使用 curated ARC-style mixture,公开来源包括:
- ARC-AGI-1 training split;
- RE-ARC;
- ConceptARC;
- ARC-Heavy;
- ARC-GEN100K;
- privately curated examples 与额外 augmentation。
作者声称 evaluation-task demonstration pairs 和 task identifiers 未参与训练,测试时也没有参数更新。可是,完整训练 recipe、私有数据内容、精确 objective 和内部实现没有公开。这意味着论文可以说明系统的外部计算结构,却不足以让第三方从头重建同一个模型。
5. 实验设计
5.1 公开 ARC-AGI-1 主评测
主评测有 400 道任务和 419 个 test pairs。pass@2 遵循 leaderboard 的 two-attempt convention:系统最多返回两个排序候选,只要其中一个与目标网格完全一致,该任务就算成功。论文同时报告 pass@1 与 pair-level accuracy,以免一个任务内部分 test inputs 正确被误读为完整规则掌握。
成本计算链路为:
论文取整为 $0.00070/题。它是基于实测硬件时间和假定 H200 每小时价格的 computed cost,不是公开 API 的实际账单。
5.2 ConceptARC 规则族分析
ConceptARC 包含 16 个 concept families,每类 10 道任务、每题 3 个 test inputs。论文以 strict-task accuracy 为主:三个 test outputs 必须全部正确;同时报告 480 个 test pairs 的独立准确率。
作者还做了 combined replication:把带语义的 task ID 换成 cryptographically opaque label,并把原本按 concept 分组的 batch 混合起来。这样可以检查系统是否借助名称或批上下文,而不是网格本身。
5.3 模型冻结后的受控任务
模型冻结后,作者用 deterministic oracle 创建任务阶梯,每题 3 个 demonstrations、2 个 held-out inputs,分别改变:
- 水平传播距离;
- motif 复制目标数;
- 需要排序的 bar 数量;
- 嵌套 containment depth;
- 上下文颜色映射的 binding 数;
- 反射、旋转、颜色交换与 relocation 的组合。
此外,附录还分析 400 道 distribution-calibrated generated tasks、1,131 道 mechanic-stratified tasks,以及条件规则选择、未见参数值、多 panel union 和 support chain 等 deterministic ladders。
6. 主要实验结果
6.1 ARC-AGI-1 主结果与成本边界
| 指标 | 结果 |
|---|---|
| public evaluation tasks | 400 |
| pass@1 | 97/400(24.25%) |
| pass@2 | 118/400(29.50%) |
| pass@2 Wilson 95% interval | [25.24%, 34.15%] |
| test-pair pass@1 | 108/419(25.78%) |
| test-pair pass@2 | 130/419(31.03%) |
| 默认计算量 | 约 0.85 H200 GPU-s/题 |
| 折算成本 | $0.00070/题 |
论文用 2026-08-04 的 ARC Prize leaderboard 数据绘制成本—分数图。在该快照和报告口径下,没有其他点能以相同或更低成本达到至少 29.5%。作者还与 GPT 5.6 Luna (Low) 的 34.2% 和榜单 $0.040/题 比较,得到约 57 倍成本差;考虑 2026-07-30 的公开 API 降价后,作者改称约 11 倍。由于基准点可能混合 API 价、硬件估算和服务定价,这些倍数适合说明数量级,不宜视为严格等价的硬件效率比。
两位来自 Bielik 与 NYU 的共同作者以 black-box protocol 重跑部署系统,复现 29.5% pass@2。他们没有模型权重,因此验证了服务输出和评测协议,不验证训练过程或实现细节。
6.2 ConceptARC:pair 正确不等于规则稳定
| 条件 | strict task pass@1 | strict task pass@2 | pair pass@1 | pair pass@2 |
|---|---|---|---|---|
| Semantic IDs | 73/160(45.63%) | 95/160(59.38%) | 332/480(69.17%) | 374/480(77.92%) |
| Opaque IDs | 72/160(45.00%) | 96/160(60.00%) | 334/480(69.58%) | 374/480(77.92%) |
语义 ID 与 opaque ID 的 aggregate score 几乎不变,说明移除 task name 并混合 batch 后,没有出现定向下降。但这项实验同时改变了两个变量,不能分别量化 ID 和 batch composition 的影响,也不能排除训练集暴露。
pair pass@2 比 strict task pass@2 高 18.54 个百分点。具体看,13 道题三个 test inputs 全错,15 道只对一个,37 道对两个,95 道全对。也就是说,52/160 道题出现“部分测试输入正确、整题仍失败”。如果模型真正诱导出统一规则,理论上应迁移到同题所有输入;这种 gap 暴露了执行不一致或只恢复到更窄规则的情况。
概念族表现也不均匀。Opaque replication 中 ExtendToBoundary、FilledNotFilled 和 TopBottom2D 达到 9/10 pass@2,而 Copy、Order 只有 2/10。不过每类只有 10 题,9/10 与 2/10 的 Wilson intervals 仍有较宽重叠,因此这些数字更适合做 capability profile,而不是稳定排行榜。
6.3 外推边界:同是失败,原因不同
| 受控任务 | 结果 | 主要观察 |
|---|---|---|
| Boundary propagation,距离 2–8 | 48/48 pass@1 与 pass@2 | 测试范围内未见退化 |
| Motif copying,1–4 个目标 | 48/48 | 多目标复制稳定 |
| Ordering,长度 6 | 29/36 pass@2 | 开始明显下降 |
| Ordering,长度 7 | 8/24 pass@2 | 输出构造迅速恶化 |
| Ordering,长度 8 | 1/24 pass@2 | 只有 3/24 输出尺寸正确 |
| Nesting,深度 5 | 29/36 pass@2 | 多数只错一个 containment decision |
排序和嵌套的错误形态不同。长度 8 排序常连输出尺寸都构造错,属于全局 construction failure;深度 5 嵌套的 36 个输出尺寸全对,best candidate 平均 cell accuracy 超过 99.9%,更像局部关系判断出错。
作者对相同 test inputs 只改变 demonstrations 的复杂度覆盖:
| Family | Short context pass@2 | Supported context pass@2 |
|---|---|---|
| Ordering,length 8 | 0/24 | 13/24 |
| Nesting,depth 5 | 19/24 | 24/24 |
Matched support 完全修复嵌套,却只部分修复排序。这个对照把两类边界分开:嵌套主要是不敢把示例关系深度外推到 5;长排序即使看过同长度示例,仍有执行和输出组装瓶颈。
6.4 上下文 binding 很强,操作 composition 并不均匀
每道颜色映射任务都在 demonstrations 中定义一个全新 permutation。Binding 数从 2 增至 8 时,BDH-CQ 对 96/96 个 held-out outputs 都在 rank one 完全正确。这是论文支持 recurrent contextual memory 的最干净证据之一:规则随任务变化,不能靠固定输出模板完成。
组合实验则给出相反的谨慎信号:
| 操作 | 单独执行 pass@2 | 与 relocation 组合 pass@2 |
|---|---|---|
| Relocation | 72/72 | 不适用 |
| Reflection | 72/72 | 47/72 |
| Rotation | 72/72 | 72/72 |
| Color swap | 26/72 | 0/72 |
“会 A”与“会 B”不推出“会 A+B”。旋转能稳定组合,反射对 motif family 敏感,颜色交换在 shuffled layout 中连 atomic operation 都几乎无法获取,因此其组合失败不能全部归因于 composition。这里揭示的是 representation-dependent compositionality,而不是统一的操作代数。
6.5 Reasoning effort 的收益与成本
| Latent effort | pass@2 | 相对 HIGH 的成本下降 |
|---|---|---|
| HIGH | 29.5% | 0% |
| MEDIUM | 27% | 11% |
| LOW | 21% | 22% |
增加 latent iteration 带来单调的点估计提升,说明共享递归更新可以把 test-time compute 转为准确率。不过 LOW 到 HIGH 的成本只增加约 28%,准确率增加 8.5 个百分点;论文没有公开各 effort 对应的精确迭代次数,也没有误差区间或多次运行,因此无法进一步拟合稳定的 scaling law。
6.6 附录揭示的结构化失败
附录中,1,131 道 mechanic-stratified generated tasks 的整体 pass@2 为 29.8%,但不同 mechanics 从 flood fill 的 68.6% 到 gravity and stacking 的 2.9%,跨度 65.7 个百分点。这个排名高度受生成器如何实例化任务影响:手写 gravity tasks 可达 80%–100%,GPT-5.6 生成的 gravity-and-stacking 却只有 2.9%;公开与生成 mechanic 排名的 Spearman ,不可靠。
受控 ladder 更适合定位边界:
| Manipulation | Reference | Changed condition | 变化 |
|---|---|---|---|
| 根据 marker 选择两条规则之一 | 100.0% | 56.7% | -43.3 pp |
| 测试参数值未在 demonstrations 出现 | 30.0% | 0.0% | -30.0 pp |
| Panel union 从 2 个增至 3 个 panel | 65.0% | 2.5% | -62.5 pp |
| Support chain 从最短增至 8 个对象 | 80.0% | 27.5% | -52.5 pp |
这些结果说明,困难不等于“网格更大”。公开集上 grid size 的 pseudo- 只有 0.072,calibrated generated set 上只有 0.010。真正显著的瓶颈来自 conditional selection、未见参数、panel segmentation/union 和 dependency depth。
错误输出也常保留大量结构:公开集失败中 89.7% 的输出尺寸正确,78.0% 的 palette 正确;在尺寸正确的错误里,cell error 中位数为 8.3%。但仅凭 final grid 无法判断模型是“规则正确但执行不完整”,还是“采用了一个更窄但执行完整的错误规则”。潜推理不输出 trace,使这种诊断天然受限。
7. 局限与批判性分析
7.1 核心模型不可复现
论文只给出 、 的抽象接口,明确保留 dimensions、exact update rules 和 implementation details。完整训练 recipe、私有训练样本、候选构造、ranking 和 effort 对应迭代数也未公开。配套 arc-task-gen 仓库生成评测任务,不包含模型权重和训练代码。
因此,目前可复现层级是:
- 可以读取论文与生成新的 ARC-style tasks;
- 可以按 black-box protocol 复测部署服务输出;
- 不能从公开资产重训或独立实现等价 BDH-CQ;
- 不能审计内部潜状态是否真的承载论文所解释的 operator schema。
7.2 公开基准与训练暴露仍有混淆
训练使用 ARC-AGI-1 training、RE-ARC、ConceptARC、ARC-Heavy、ARC-GEN100K 和私有数据。作者声明 public evaluation pairs 未进入训练,但外部无法检查私有语料和 checkpoint selection。ConceptARC 本身又在训练 mixture 中,因此它只能做已知分布上的行为 profile,不能作为新颖性证据。
Post-freeze generated tasks 缓解了直接记忆问题,却引入生成器偏差。附录承认至少发现一个 target 与 demonstrations 规则冲突的任务,缺陷总体比例未知;LLM 对 mechanic label 的复核一致率只有 82.9%;合并生成池去重时删除 24%,部分 mechanics 的新形式很快枯竭。
7.3 成本前沿不是完全同口径系统比较
BDH-CQ 成本来自 H200 时间乘假定租价,榜单其他点可能来自 API price 或 hardware estimate。API 价格包含利润、批处理、服务开销和市场策略,GPU 租价也随区域、承诺期和利用率变化。论文的 11x 或 57x 比较适合说明当前 leaderboard 上的部署经济性,不等于同硬件、同实现和同吞吐下的纯算法 FLOPs 优势。
此外,完整 deployed system 包括候选生成与排序,主表的 $0.00070 与行为附录中的 STANDARD $0.00265246、MIN $0.00088399 不是同一数字。论文没有充分解释这些系统配置与主 Pareto 点的对应关系,读者不应把所有成本表格混为一个固定推理路径。
7.4 pass@2 不是每题两次独立采样
在 opaque ConceptARC replication 中,75 个只返回单候选的记录全部已经 rank-one 正确。因而 pass@2 只表示“最多两个 ranked candidates”,不代表每道题都有两次独立随机尝试。候选列表还会随 request context、调用时间或内部 search path 变化:两次 ConceptARC 执行只有 276/480 个完整有序候选列表一致,尽管 aggregate pass@2 完全相同。
7.5 统计与实验范围有限
- 只有一个 150M 主模型,没有公开多随机种子训练结果;
- ConceptARC 每类仅 10 题,家族排名置信区间很宽;
- 受控 ladder 每条件多为 24–40 个输出,且通常来自单一 puzzle family;
- Reasoning-effort 表没有置信区间和精确计算步骤;
- 任务范围只覆盖 ARC-like grids,没有语言、数学或开放式推理实证;
- 论文声称 1B–600B pretraining 观察到 Transformer-like scaling,并称架构易扩到 1T,但没有给出支持这些规模结论的完整曲线、设置和结果表。
7.6 无语言 trace 的效率收益伴随可审计性损失
BDH-CQ 不必生成中间文字,这是成本优势的一部分;同样也让失败归因更难。对于最终输出错误,外部观察者无法区分记忆绑定失败、潜迭代不足、候选解码失败或 ranking 失败。涉及高风险决策、工具调用或需要过程证明的场景,纯 latent reasoning 需要额外的 verifier、可解释 probe 或按需语言化机制。
8. 应用影响
8.1 适合结构化、可验证、低延迟的任务
论文最直接的应用不是通用聊天,而是具有以下特征的任务:
- 少量 demonstrations 定义一个临时 transformation;
- 输出有严格 verifier,可自动判断正确性;
- 内部计算可在固定结构的 latent state 中迭代;
- 服务对 token 成本和 latency 敏感;
- 不要求每一步都以自然语言向用户解释。
候选方向包括视觉网格变换、约束满足、程序化数据清洗、格式迁移、局部规划和某些规则密集型 edge inference。论文也提到 Sudoku、ARC-AGI-2,以及未来的语言与数学推理。
8.2 对推理系统设计的启发
BDH-CQ 提供了一个“记忆状态 + 计算状态”的系统接口。对工程设计而言,可以把 demonstrations 写入可更新 memory,把当前 query 的 iterative compute 放在独立 workspace,再只在需要沟通、验证或调用工具时解码 token。这比在所有步骤中强制语言化更灵活。
然而,论文尚未证明这种结构在真实长上下文中能稳定替代 KV cache。固定 recurrent state 可能压缩掉关键细节,顺序更新可能产生覆盖,且没有公开容量—示例数曲线。应用前需要测量:任务数增长时的记忆干扰、顺序敏感性、长上下文退化和跨域 transfer。
8.3 Demonstration 设计本身成为控制旋钮
Matched-support 实验显示,示例是否覆盖目标复杂度会直接改变成功率。生产系统不能只给“语义相同”的示例,还要覆盖关系深度、输出长度和参数范围。一个实用检索器应按操作、结构复杂度和输出形态选择 demonstrations,而不是只做表面相似度检索。
8.4 不宜立即外推到通用推理
ARC 的状态空间离散、答案短、verifier 完美,且不要求引用事实或调用外部工具。语言推理需要处理歧义、知识、长文本和可沟通证据;数学证明要求过程检查;智能体任务还要把 latent plan 映射为可逆的外部动作。BDH-CQ 为这些方向提供架构假设,但当前论文没有给出实证支持。
9. 相关工作
9.1 Chain-of-Thought 与语言 scratchpad
CoT prompting 和 scratchpad work 让模型把中间计算写成语言,优势是可读、可监督、可接入工具。BDH-CQ 的差异不是简单缩短 CoT,而是取消中间状态必须经过词表解码的约束,只保留最终答案解码。
9.2 Continuous thought
Coconut 把 Transformer 的上一轮 final hidden state 作为下一轮 input embedding,并通过 curriculum 逐步用 continuous thoughts 替代 verbal CoT。它证明 hidden-state feedback 可以保留多条候选路径。BDH-CQ 的重点不同:demonstrations 先更新 recurrent task memory,再由 structured multi-vector workspace 求解新视觉变换;论文更强调 in-context binding 和完整系统成本。
理论工作 Reasoning by Superposition 说明,连续状态可同时编码多个 graph search frontiers 并并行扩展;另一类形式化比较则指出,latent iteration 擅长利用 computation graph 的并行结构,而 stochastic token decoding 对近似计数和采样有天然优势。这些工作支持“连续状态带宽更高”的可能性,但不自动保证每类推理都更有效。
9.3 Abstract-CoT 与 latent communication
Abstract-CoT 使用学习出的保留词表,以更短的离散序列代替自然语言 rationale。它仍然按 token 串行解码,位于“自然语言 CoT”和“完全连续潜状态”之间。Multi-agent latent communication 则在不同智能体之间传 embeddings、hidden states 或 caches,解决的是通信带宽,而 BDH-CQ 研究单一系统内部的迭代推理。
9.4 Recurrent-depth 与 looped models
Recurrent-depth language model 和 Looped Transformer 反复应用共享 block,用参数共享换取有效深度,并允许 test-time compute scaling。它们主要研究模型深度、参数效率和计算表达能力;BDH-CQ 进一步要求同一递归架构从 demonstrations 绑定一个测试时新任务。
9.5 HRM、TRM 与任务特定递归求解器
HRM 和 TRM 在 Sudoku、maze 和 ARC 上递归更新潜状态与候选答案。但其 ARC pipeline 会对评测任务 demonstrations 做 augmentation、optimization,并使用 task identity 或投票。BDH-CQ 的定位是无需 puzzle-specific backward pass:任务信息只通过 forward-context 写入 memory。代价是 BDH-CQ 的完整实现未公开,而 HRM/TRM 相关路线至少更容易检查其 task-specific adaptation 流程。
9.6 ARC 与 ConceptARC
ARC 关注 skill-acquisition efficiency;ConceptARC 用 16 个概念族组织空间与语义操作,使 aggregate score 可以展开为 capability profile。BDH-CQ 进一步用 strict-task 与 pair accuracy 的差、opaque identifiers 和 deterministic ladders 分析规则是否被稳定应用,而不是只看单一答案命中。
10. 结论
BDH-CQ 展示了一条不同于长 CoT 的推理路线:演示样例在前向过程中更新 recurrent memory,查询在连续 latent workspace 中反复计算,最终只解码答案。它用 150M 参数在公开 ARC-AGI-1 上取得 29.5% pass@2,并以论文计算口径达到 $0.00070/题,建立了一个很有吸引力的成本效率点。
论文最强的证据链来自受控行为实验,而不只是排行榜:
- 全新颜色映射可在上下文中稳定绑定;
- 边界传播和复制能在测试范围内外推;
- 长排序和深嵌套出现不同类型的失败;
- 匹配复杂度的 demonstrations 能修复外推问题,却不能完全解决执行瓶颈;
- 操作组合取决于具体算子和输入表示;
- 条件规则、未见参数、panel union 和依赖深度仍是显著短板。
真正需要保持克制的是复现和外推。BDH-CQ 的模型、训练配方和核心更新规则仍是 proprietary,公开资产不足以从头验证架构;成本比较也混合了不同计价口径。当前结果证明的是 ARC-like in-context latent reasoning 的可行性和成本潜力,尚未证明一种可复现、跨语言与智能体任务的通用替代方案。
对后续研究而言,最关键的三项工作是:公开可训练的最小实现,给出同硬件下与 Transformer/CoT 的端到端对照,以及在语言、数学、工具调用和 ARC-AGI-2 上验证同一“memory + latent workspace”接口。只有这三步成立,BDH-CQ 才能从一个亮眼的封闭系统结果,发展成可被研究社区检验和扩展的推理范式。
参考资料
- Hugging Face Papers,BDH-CQ:https://huggingface.co/papers/2608.09888
- arXiv 摘要页,arXiv:2608.09888v1:https://arxiv.org/abs/2608.09888v1
- arXiv HTML 全文:https://arxiv.org/html/2608.09888v1
- arXiv PDF:https://arxiv.org/pdf/2608.09888v1
- Pathway 官方项目介绍:https://pathway.com/blog/pathway-150m-model-breaks-arc-agi-1-cost-efficiency-frontier
- 官方 ARC task generator:https://github.com/pathwaycom/arc-task-gen
- ARC Prize Leaderboard:https://arcprize.org/leaderboard
- ConceptARC:https://arxiv.org/abs/2211.11517
- Coconut,Training Large Language Models to Reason in a Continuous Latent Space:https://arxiv.org/abs/2412.06769
- The Dragon Hatchling:https://arxiv.org/abs/2509.26507