——从 Selective-IGEV、FoundationStereo 到 S²M²、DepthFocus,立体视觉正在发生哪些变化?
更新日期:2026年11月8日
立体匹配(Stereo Matching)一直是计算机视觉中非常经典的研究方向。相比单目深度估计,双目视觉能够通过左右图像之间的几何对应关系恢复具有物理尺度的深度,在三维重建、机器人、自动驾驶和工业测量中具有不可替代的价值。
不过,立体匹配也一直面临几个难题:无纹理区域难以建立可靠对应关系,重复纹理容易产生误匹配,遮挡边缘和细小结构难以恢复,而透明、反光等非朗伯表面更是传统匹配算法的薄弱环节。
前几年,RAFT-Stereo、IGEV-Stereo 和 Selective-IGEV 等网络,已经将基于 Cost Volume 和循环迭代优化的技术路线发展得相当成熟。
2025 年的 FoundationStereo 则带来了一个明显的转折:立体匹配开始从针对特定数据集追求极致精度,走向具备跨场景泛化能力的深度基础模型。
进入 2026 年,这个方向继续发展。一方面,单目深度基础模型与双目几何进一步融合;另一方面,S²M²、DepthFocus 等模型开始重新思考立体匹配的基本形式。而 Fast-FoundationStereo、Lite Any Stereo V2 等工作,则试图让高泛化能力和实时推理不再相互矛盾。
本文选择了 13 个值得关注的代表性网络,梳理它们的基本思路、创新点和实际研究价值。
一、先看全局:2026 年的立体匹配正在走向哪里?
如果将近年来的研究放在一起观察,可以归纳出四条比较明确的技术路线。
| 技术方向 | 代表网络 | 核心问题 |
|---|---|---|
| 传统迭代匹配优化 | Selective-IGEV | 如何更精细地更新视差 |
| 单目基础模型与双目融合 | FoundationStereo、DEFOM-Stereo、MonSter++、PromptStereo、Stereo Anywhere | 如何利用单目先验改善泛化 |
| 全局匹配与复杂几何感知 | S²M²、DepthFocus、MLG-Stereo | 如何解决大视差、细结构与多层深度 |
| 高效零样本立体匹配 | Fast-FoundationStereo、LAS2、Pip-Stereo、GGEV | 如何兼顾泛化、速度与显存 |
这里有一个很重要的认识:单目深度基础模型并没有取代立体匹配,而是在帮助立体匹配解决原来难以处理的问题。
单目网络擅长从图像语义、形状和上下文中推断深度结构,却天然存在尺度歧义;双目匹配能够通过视差获得几何约束,却容易受到纹理、遮挡和材质影响。
两者结合,实际上是将学习得到的场景先验与可观测的几何信息结合起来。
二、从 Selective-IGEV 到 FoundationStereo:经典路线的演进
1. Selective-IGEV:迭代式立体匹配的重要代表
论文:Selective-Stereo: Adaptive Frequency Information Selection for Stereo Matching(CVPR 2024)
Selective-IGEV 可以看作 IGEV-Stereo 的重要扩展。它保留了基于几何编码代价体(Geometry Encoding Volume)和迭代视差更新的基本框架,但改进了传统 GRU 在不同空间频率下处理信息的能力。
其核心模块是 Selective Recurrent Unit(SRU),通过自适应融合不同频率的隐藏特征,使网络能够同时照顾平滑区域与边缘细节。
这一设计具有很强的直觉合理性:平坦墙面需要更大范围的上下文约束,而物体边缘和细杆结构则需要保留局部高频信息。
值得关注: SRU 的多频信息选择机制、迭代更新的稳定性,以及它在边缘和无纹理区域中的作用。
Selective-IGEV 如今未必是最高精度或最佳泛化模型,但仍然非常适合作为研究 Cost Volume、GRU 更新和局部精细匹配的基础架构。
2. FoundationStereo:真正把零样本泛化放在核心位置
论文:FoundationStereo: Zero-Shot Stereo Matching(CVPR 2025)
FoundationStereo 是近两年立体匹配研究中影响很大的一项工作。
它并没有完全放弃 Cost Volume 或迭代优化,而是围绕强泛化能力重新设计整个系统。
首先,FoundationStereo 构建了约 100 万对大规模、高真实感的合成双目训练数据,并通过自动筛选减少存在歧义的样本。
其次,它使用视觉基础模型提供的特征先验,并结合 Side-Tuning 机制,使预训练视觉特征能够服务于立体匹配。
同时,网络引入长距离上下文推理,提升 Cost Volume 的聚合能力,改善局部匹配无法处理的复杂场景。
值得关注: 大规模合成数据如何帮助零样本泛化、视觉基础模型特征如何适配立体匹配,以及全局上下文怎样影响匹配质量。
FoundationStereo 也有明显缺点:大型 Backbone、复杂特征处理和后续迭代优化造成较大的推理开销。
不过,在高精度离线三维重建场景中,它仍然是非常有价值的参考基线。
三、单目深度先验与双目几何的进一步融合
FoundationStereo 并不是唯一利用视觉基础模型的路线。实际上,2025—2026 年已经出现了几种不同的融合方法。
3. DEFOM-Stereo:用单目深度初始化双目匹配
论文:DEFOM-Stereo: Depth Foundation Model Based Stereo Matching(CVPR 2025)
DEFOM-Stereo 选择了一个相对直接的方案:将 Depth Anything V2 引入类似 RAFT-Stereo 的循环更新框架。
单目模型不仅提供特征,还参与初始视差的构建。由于单目深度的尺度与真实双目视差并不一致,模型设计了 Scale Update 模块,通过匹配信息逐步修正尺度。
它的关键思路是:不必从完全随机或粗糙的视差开始搜索,而是先利用单目网络建立较好的结构初值,再通过双目几何恢复正确尺度。
值得关注: 单目相对深度与双目绝对尺度之间的转换,以及 Scale Lookup 和传统局部 Correlation Lookup 的区别。
对已经熟悉 RAFT 或 IGEV 的开发者而言,DEFOM-Stereo 是理解单目深度先验如何进入立体匹配流程的一个很好的切入点。
4. Stereo Anywhere:当单目和双目都会犯错时怎么办?
论文:Stereo Anywhere: Robust Zero-Shot Deep Stereo Matching Even Where Either Stereo or Mono Fail(CVPR 2025)
Stereo Anywhere 同样采用单目与双目融合思路,但它更加关注两个系统之间的互补性。
传统双目网络在镜面反射、透明材质和重复纹理区域可能产生错误对应;单目基础模型虽然能够理解场景结构,却也可能受到透视错觉的误导。
Stereo Anywhere 通过双分支架构和 Cost Volume 融合机制,把两类信息进行联合推理。
论文还提出了 MonoTrap 数据集,用于测试可能误导单目深度模型的视觉错觉场景。
值得关注: 如何判断单目先验与双目匹配何时可信,如何处理两种深度结果发生冲突的区域,以及镜面、透明物体等非朗伯场景中的泛化能力。
与单纯追求 EPE 的模型相比,Stereo Anywhere 对复杂真实场景的关注更强。
5. MonSter++:让单目和多视图深度互相修正
论文:MonSter++: Unified Stereo Matching, Multi-View Stereo, and Real-Time Stereo With Monodepth Priors(TPAMI 2026)
MonSter++ 是 MonSter 的进一步发展,也是很值得研究的一种几何基础模型。
它不只针对校正后的双目图像,还尝试将普通双目匹配与非校正多视图深度估计统一到一个框架之中。
核心采用双分支结构,使单目深度与多视图深度形成双向反馈。
当多视图匹配具有较高置信度时,可以利用其几何信息校正单目深度的尺度;而在弱纹理、遮挡等匹配不可靠的区域,又可以利用单目先验辅助恢复结构。
模型还提供实时版本 RT-MonSter++。
值得关注: 置信度驱动的双向融合、单目深度的尺度校正,以及从 Rectified Stereo 扩展到 Multi-View Stereo 的统一设计。
如果未来希望将双目立体匹配与多视图三维重建结合,MonSter++ 比单纯面向双目视差的模型具有更大的研究空间。
6. PromptStereo:连迭代更新模块也开始使用基础模型
论文:PromptStereo: Zero-Shot Stereo Matching via Structure and Motion Prompts(CVPR 2026)
之前许多方法主要将视觉基础模型用于 Backbone 特征提取或视差初始化,但后续迭代更新仍然依赖传统 ConvGRU。
PromptStereo 则认为,这种方式没有充分发挥基础模型已有的表示能力。
它提出 Prompt Recurrent Unit(PRU),利用单目深度基础模型的 DPT Decoder 构建新的迭代更新单元,并引入两类提示信息:
- Structure Prompt:表达单目深度的结构先验。
- Motion Prompt:表达当前双目匹配与视差更新所需的信息。
此外,Affine-Invariant Fusion 用于缓解单目预测与双目视差之间的尺度差异。
值得关注: DPT Decoder 能否替代 GRU、Prompt 如何注入几何信息,以及预训练单目特征如何在反复更新中得以保留。
PromptStereo 的价值不仅在于精度,还在于它重新设计了已经使用多年的循环视差更新框架。
四、全局匹配和复杂几何:S²M²、DepthFocus 与 MLG-Stereo
如果说前面的模型主要是在成熟框架上引入新的视觉先验,那么这一组工作则开始重新审视立体匹配的表示形式与搜索策略。
7. S²M²:重新重视全局匹配
论文:S²M²: Scalable Stereo Matching Model for Reliable Depth Estimation(ICCV 2025)
S²M² 是这一轮立体匹配演进中非常值得关注的模型。
过去基于 RAFT 或 IGEV 的方法主要依靠局部相关性查找与循环更新逐步收敛。虽然效率不错,但容易受到局部搜索范围和错误初值影响。
S²M² 则提出基于多分辨率 Transformer 的全局匹配架构,避免依赖传统的 Cost Volume Filtering 和很深的迭代细化堆栈。
它还设计了新的训练目标,使匹配概率更集中于合理的候选位置,并联合预测视差、遮挡和置信度。
在高分辨率图像以及自行车辐条等精细结构中,全局对应关系与局部细节之间的平衡尤其重要。
值得关注: 全局匹配复杂度如何控制,多分辨率 Transformer 如何处理大视差,以及联合遮挡、置信度预测对三维重建质量的帮助。
需要注意,官方公开的权重与部分 Middlebury、ETH3D 榜单提交版本并不完全相同,而且公开实现做了部分结构调整。不能假定下载公开权重就能够完全复现论文榜单成绩。
8. DepthFocus:从单层视差走向可控的多层深度
论文:DepthFocus: Controllable Depth Estimation for See-Through Scenes(CVPR 2026)
DepthFocus 是 2026 年一个非常值得持续跟踪的方向。
传统立体匹配通常为每个像素输出一个视差值,即默认目标是恢复某个主要可见表面的深度。
但现实世界中,这种假设并不总成立。
例如,透过玻璃观察一个物体时,同一个像素可能同时包含玻璃表面和后方物体的视觉信息。究竟应该输出玻璃的深度,还是玻璃后面物体的深度?
DepthFocus 将参考深度引入模型,允许网络根据用户指定的焦点距离选择相应的几何层。
在架构上,它采用可控的 Vision Transformer,并设计 Conditional Mixture-of-Experts(C-MoE)与 Direct Condition Injection(DCI),让参考深度直接参与特征调制。
这不再只是对一张固定视差图进行后处理,而是让网络按照目标深度动态改变内部推理方式。
在 Middlebury V3 的全分辨率 Bad-2.0 非遮挡评测中,DepthFocus 取得了 1.00% 的误差率,位于所选榜单首位。
值得关注: 深度条件控制、透明场景下的多层几何恢复,以及同一个立体网络能否依据不同条件输出不同的有效场景结构。
它还有一个很值得研究的设计:重计算的 Backbone 特征可以复用,不同参考深度主要通过后续条件特征处理完成。
这意味着未来的立体深度估计不一定只能是一次性预测,也可能发展为可交互、可控制的几何感知系统。
不过,截至本文更新日期,其官方 GitHub 仍只有项目说明,尚未开放完整模型推理代码和权重,因此目前更适合重点跟踪论文和项目进展。
9. MLG-Stereo:ViT 的全局能力还需要局部几何来补充
论文:MLG-Stereo: ViT Based Stereo Matching with Multi-Stage Local-Global Enhancement(2026,arXiv 预印本)
视觉 Transformer 擅长全局信息建模,却不一定擅长恢复所有局部几何细节。
尤其当训练和推理分辨率不同时,ViT 特征可能存在分辨率敏感性,而依赖局部卷积的立体匹配网络往往能够更稳定地处理细小结构。
MLG-Stereo 试图融合两种架构的优势。
它分别在特征提取、Cost Volume 构建和循环视差更新阶段引入局部与全局信息,形成多阶段 Local-Global Enhancement 结构。
值得关注: 不同尺度下的特征一致性、全局上下文对局部匹配的指导,以及 ViT 与 CNN 混合架构处理高分辨率输入的能力。
MLG-Stereo 的研究价值在于,它并不将 Transformer 当作万能特征提取器,而是主动补齐 Transformer 在局部几何方面的短板。
五、更快、更轻:高效立体匹配的新路线
过去往往需要在高精度与实时性能之间做出选择。但在 2026 年,越来越多的研究开始尝试同时解决这两个问题。
10. Fast-FoundationStereo:把基础模型做成实时网络
论文:Fast-FoundationStereo: Real-Time Zero-Shot Stereo Matching(CVPR 2026)
Fast-FoundationStereo 来自 FoundationStereo 原研究团队,可以理解为对原有大型基础模型的系统性加速。
它通过三个主要步骤减少计算负担。
首先,利用知识蒸馏将复杂的混合 Backbone 压缩成高效的学生网络;其次,使用分块式神经架构搜索(NAS)寻找适合延迟目标的 Cost Volume 过滤结构;最后,对循环更新模块进行结构化剪枝。
论文还构建了约 140 万对真实场景双目伪标签数据,用于增强训练与知识蒸馏。
作者报告模型相对于原始 FoundationStereo 可实现超过 10 倍的加速,同时尽量维持零样本泛化能力。
值得关注: 大型基础模型的蒸馏策略、Cost Aggregation 的结构搜索,以及迭代更新模块中存在多少可删除的冗余计算。
对工程应用而言,这是最有实际吸引力的路线之一。官方同时提供了与 TensorRT 等高性能推理技术相关的实现资源。
11. Lite Any Stereo V2(LAS2):轻量架构也可以具备强泛化
论文:Lite Any Stereo V2: Faster and Stronger Efficient Zero-Shot Stereo Matching(2026,arXiv 预印本)
LAS2 的思路与 Fast-FoundationStereo 有明显区别。
后者更多从大型基础模型出发,通过蒸馏、搜索和剪枝降低计算开销;LAS2 则尝试直接设计高效的立体匹配架构,再通过训练策略获得良好的零样本泛化能力。
在网络结构上,LAS2 使用 2D-only Cost Aggregation,并优先考虑真实推理延迟,而不是仅仅降低理论 FLOPs。
训练方面,它结合合成数据监督、自蒸馏以及真实数据知识蒸馏,并引入伪标签筛选机制。
LAS2 提供 S、M、L、H 等不同配置,其中包括前馈式版本和精度优先的迭代式版本。
论文报告 LAS2-H 在其整体零样本评测中优于 Fast-FoundationStereo,并在 H200、Orin 等平台实现更低的推理延迟。
值得关注: 2D Cost Aggregation 的实际效率、不同模型档位的精度与速度曲线,以及蒸馏训练对跨域泛化的贡献。
对于嵌入式平台,LAS2 尤其值得尝试。其官方仓库提供了 ONNX 导出与推理相关代码,便于继续研究部署可行性。
12. Pip-Stereo:重新思考循环更新的必要性
论文:Pip-Stereo: Progressive Iterations Pruner for Iterative Optimization based Stereo Matching(CVPR 2026)
RAFT-Stereo、IGEV 等模型通常需要多次循环迭代才能得到精确视差,但每次迭代是否都对所有像素产生有价值的修正?
Pip-Stereo 的研究发现,迭代更新在空间上具有稀疏性,在时间上也存在冗余。
因此,它提出 Progressive Iterations Pruner,通过剪除不必要的更新计算减少推理开销。
同时,它还提出针对硬件特点优化的 FlashGRU,并通过轻量方式传递单目深度先验,减少额外编码器的计算成本。
论文报告在 320×640 输入下,Jetson Orin NX 的 FP16 推理时间约为 75ms。
值得关注: 自适应减少迭代次数、硬件感知的循环网络设计,以及不同分辨率下的内存访存优化。
如果研究重点是端侧运行,Pip-Stereo 提出的问题可能比单纯修改 Backbone 更有启发性。
目前可以优先阅读论文;未确认有完整、可独立复现的官方模型代码仓库。
13. GGEV:轻量化的深度先验引导 Cost Aggregation
论文:Generalized Geometry Encoding Volume for Real-time Stereo Matching(AAAI 2026)
GGEV 同样关注实时推理与泛化之间的矛盾。
它没有简单地将完整的大型单目基础模型直接叠加到立体匹配网络中,而是重点研究如何利用深度先验来改善 Cost Volume 的聚合。
其中,Depth-aware Dynamic Cost Aggregation(DDCA)会根据深度相关特征,对不同视差假设的匹配关系进行自适应增强。
这使网络可以在维持较轻量计算结构的情况下,提高对未见场景的匹配能力。
值得关注: 深度先验参与 Cost Aggregation 的方式、动态视差假设处理,以及 GGEV 与 RT-IGEV 等传统实时网络的架构差异。
从算法改造的角度看,GGEV 是一项很适合研究的工作,因为它将提升泛化能力的重点放在几何代价聚合,而不只是扩大特征提取网络。
六、如何看待 Middlebury 榜单?
在关注新的立体匹配网络时,Middlebury、ETH3D、KITTI 和 Booster 等评测集依然是重要的参考。
但有一点需要特别注意:某个模型在单一榜单取得第一,并不代表它一定是实际应用中的最佳选择。
例如,在 Middlebury V3 全分辨率(F)、Bad-2.0、非遮挡区域的评测配置下,部分代表性模型的结果如下:
| 模型 | Bad-2.0 ↓ |
|---|---|
| DepthFocus | 1.00% |
| S²M² | 1.15% |
| FoundationStereo | 1.84% |
| Selective-IGEV | 2.51% |
这些成绩能够体现高分辨率场景下的精度进展,但无法直接说明其他测试集、输入分辨率或计算平台上的表现。
特别需要注意几个评测差异:
第一,必须区分经过目标数据集微调的模型和完全零样本测试的模型。
第二,输入分辨率和视差误差阈值会显著影响结果。例如 Bad-2.0 在 Full Resolution 与 Half Resolution 上并不是可以随意混用的指标。
第三,论文报告的最佳结果不一定对应公开权重,推理设置也可能存在差异。
第四,训练数据规模与场景分布同样重要。一个模型的强泛化能力,可能同时来自架构设计和更大、更高质量的训练数据。
对于三维重建应用,我认为还应该特别关注以下问题:
- 薄结构是否完整,例如电线、树枝、自行车辐条。
- 物体边缘是否出现明显的前景与背景深度混合。
- 无纹理平面是否存在大面积错误视差。
- 反光和透明表面是否产生错误几何。
- 不同分辨率下的结果是否一致。
- 输出的置信度是否有助于过滤错误点云。
参考:Middlebury Stereo Evaluation V3
七、如果现在开始实验,应该优先尝试哪些网络?
综合研究创新性、实际精度和开源可用性,我倾向于把这些模型分成三个层次。
第一梯队:值得立即动手实验
- FoundationStereo:继续保留作为高精度、零样本泛化基线。
- S²M²:重点研究全局匹配、高分辨率和细小结构。
- Fast-FoundationStereo:重点测试真实推理性能,以及加速带来的精度变化。
- LAS2:重点研究高效架构、模型压缩和实际部署。
- MonSter++:适合研究单目先验与双目、多视图几何的融合。
第二梯队:更适合深入研究架构
- PromptStereo:重点研究基于预训练 Decoder 的迭代更新。
- MLG-Stereo:关注全局 Transformer 与局部几何的融合。
- GGEV:适合研究低成本深度先验引导的 Cost Aggregation。
- Pip-Stereo:适合研究迭代稀疏性和硬件优化。
- DEFOM-Stereo / Stereo Anywhere:适合梳理不同的单目与双目融合方法。
第三梯队:重点持续跟踪
- DepthFocus:算法创新性突出,尤其在可控多层深度方面,但目前尚缺完整公开代码。
对于高质量离线三维重建,我会优先比较 FoundationStereo、S²M² 和 MonSter++。
对于需要兼顾实时性和跨场景泛化的应用,则更适合从 Fast-FoundationStereo、LAS2 和 GGEV 开始。
而如果目标是嵌入式 NPU 部署,还需要进一步检查 ONNX 导出、动态算子、Attention、Cost Volume、循环更新以及设备内存带宽等问题。能够在 NVIDIA GPU 上实时运行,并不意味着可以直接部署到低功耗 NPU。
八、总结:2026 年立体匹配真正值得关注的变化
回顾这些模型,可以发现立体匹配领域并没有因为单目深度基础模型的快速发展而失去研究价值。
恰恰相反,单目基础模型的出现,为传统立体匹配带来了新的发展机会。
在 Selective-IGEV 所代表的阶段,研究重点是如何让已有的迭代匹配框架更准确地收敛。
FoundationStereo、DEFOM-Stereo 和 MonSter++ 则进一步证明,图像语义和结构先验能够帮助双目网络摆脱对特定场景训练数据的过度依赖。
S²M² 重新探索高效全局匹配,而 DepthFocus 更进一步,试图突破每个像素只能输出单一深度的传统假设。
与此同时,Fast-FoundationStereo、LAS2、Pip-Stereo 和 GGEV 正在尝试解决另一个现实问题:如何把具备强泛化能力的立体匹配模型带到真正有计算限制的设备上。
如果要用一句话概括 2026 年的研究趋势,我认为是:
立体匹配正在从单纯的视差优化网络,逐渐演变成融合学习先验、几何约束、全局对应关系与高效计算的三维感知系统。
未来真正优秀的立体匹配网络,未必是某个榜单上误差最低的模型,而更可能是能够在不同环境、不同分辨率、复杂物体材质以及有限计算资源下,持续输出可信三维几何的模型。
这也是立体视觉接下来最值得关注的发展方向。
注:本文资料更新至 2026 年 11 月 8 日。模型性能与开源状态可能发生变化,具体以论文、评测网站及官方仓库的最新信息为准。