找回密码
 立即注册
查看: 943|回复: 2

DeepSeek又拿第一!首创“因果流”视觉推理,超越Gemini ...

[复制链接]

4077

主题

535

回帖

1万

积分

论坛元老

积分
12921
发表于 2026-2-15 22:36:29 | 显示全部楼层 |阅读模式
pTu3q38MncMnVIXM.jpg
6 V8 u' v  G# i4 `: \* M编辑:定慧 好困8 \" j4 `! M7 Z, M8 |
【新智元导读】DeepSeek开源DeepSeek-OCR2,引入了全新的DeepEncoder V2视觉编码器。该架构打破了传统模型按固定顺序(从左上到右下)扫描图像的限制,转而模仿人类视觉的「因果流(Causal Flow)」逻辑。
6 A" a/ r2 T* JDeepSeek又双叒叕更新了!- q/ P* t5 K5 O8 F2 m& l
这次是DeepSeek-OCR模型的重磅升级:DeepSeek-OCR2。
5 E" T; A7 b2 ~5 }( r. m$ X lBk6gIFs7RsgrY1b.jpg
* l; D. b0 f9 o$ A7 N$ w- W还记得上一代DeepSeek-OCR吗?那个用视觉方式压缩一切的模型。& Q8 q& ^4 _$ b" C
这一次,DeepSeek更进一步,对视觉编码器下手了,提出了一种全新的DeepEncoder V2架构,实现了视觉编码从「固定扫描」向「语义推理」的范式转变!; r3 m2 R( M* k& H
v70qZD1igDIdciso.jpg   U" D% b% }' U, l
DeepSeek-OCR2不仅能像人类一样按逻辑顺序阅读复杂文档,还在多项基准测试中刷新了SOTA。
) _' Y2 B! p2 b* O* ~5 x$ U当然,按照DeepSeek的惯例,Paper、Code、Model全开源!
6 W! M/ r3 [8 i& G6 x1 g zNW7921h1xV1QXq9.jpg : t" n1 u  N8 y$ Y7 X
DeepSeek-OCR2的核心创新在于通过DeepEncoder V2,赋予了模型因果推理能力(Causal Reasoning)。& h+ K6 M  l  _& B
这就像是给机器装上了「人类的阅读逻辑」,让AI不再只是死板地从左上到右下扫描图像,而是能根据内容语义灵活调整阅读顺序。( U- k% u# r) u3 }
DeepSeek-OCR2
+ P9 F' P$ o) F视觉因果流# d* d8 z5 T/ g( w* \5 g
DeepSeek在论文中指出,传统的视觉语言模型(VLM)通常采用光栅扫描(Raster-Scan)顺序处理图像,即固定地从左到右、从上到下。
1 D4 I9 H+ n) e6 n$ Z3 A这种方式强行将2D图像拍扁成1D序列,忽略了图像内部的语义结构。- f! K4 W% A+ A; |' S
fa88RVr9fv8P9eRs.jpg * t" P! @6 C) h& g, S
这显然与人类的视觉习惯背道而驰。; X4 A. f) {: o: l9 M7 d0 H' o
人类在看图或阅读文档时,目光是随着逻辑流动的:先看标题,再看正文,遇到表格会按列或按行扫视,遇到分栏会自动跳跃。
- ?& B# i. H8 u; Y  o5 g为了解决这个问题,DeepSeek-OCR2引入了DeepEncoder V2。
$ `* `$ ~: E  b! x: k* O" R它最大的特点是用一个轻量级的大语言模型(Qwen2-0.5B)替换了原本的CLIP编码器,并设计了一种独特的「因果流查询」(Causal Flow Query)机制。" H! T: {3 S+ L4 _
DeepEncoder V2架构详解
* o# x6 {+ X  f9 \* nDeepEncoder V2主要由两部分组成:- b2 W" q$ e3 e& N
1. 视觉分词器(Vision Tokenizer)
: u; N- M7 c  e! }沿用了SAM-base(80M参数)加卷积层的设计,将图像转换为视觉Token。
& E/ o  |3 ?' ~2 e Y55Bb2fgzgFG0f11.jpg & G1 Q' ?& Y) i. U3 C1 Q9 \
2. 作为视觉编码器的LLM, e! n5 n1 K' Y0 L# E$ s4 p5 ]
这里DeepSeek使用了一个Qwen2-0.5B模型。
3 M1 ~6 Z; s1 r2 b; J4 U1 ?# j它不仅处理视觉Token,还引入了一组可学习的「查询Token」(Query Tokens)。3 l3 Z! c" R( _, g" ~/ ~& l1 c8 x
LbGsl23S6dlMVn63.jpg
/ x1 ~( \. [2 {. k; b/ n关键的创新点在于注意力掩码(Attention Mask)的设计:
  ~% Z" Y  i2 q; T% L JRajWCZ6k3KcbDko.jpg # m& G$ M# |0 T# y
视觉Token之间采用双向注意力(Bidirectional Attention),保持全局感知能力,类似于ViT。# d$ T* D& R. [$ F
而查询Token则采用因果注意力(Causal Attention),每一个查询Token只能看到它之前的Token。
4 u% b3 V; M8 U$ R; f1 L通过这种设计,DeepEncoder V2实现了两级级联的因果推理:
+ y) s4 N% I& d- U& [) g1 n编码器通过可学习的查询对视觉Token进行语义重排,随后的LLM解码器则在这个有序序列上进行自回归推理。
7 z+ l% r$ m3 Q" c这意味着,DeepSeek-OCR2在编码阶段就已经把图像里的信息「理顺」了,而不是一股脑地扔给解码器。+ E4 e/ N# M" ^5 o9 [6 x
Token更少,精度更高$ x) J9 l4 E9 a% }
实验数据显示,DeepSeek-OCR2在保持极高压缩率的同时,性能显著提升。9 M$ x, c  z0 h
在OmniDocBench v1.5基准测试中,DeepSeek-OCR2在使用最少视觉Token(仅256-1120个)的情况下,综合得分高达91.09%,相比前代提升了3.73%。0 T5 M( n  F% h
R7t89H111s1x2gSx.jpg
5 n2 K; e' v) A% }3 D特别值得一提的是,在阅读顺序(R-order)的编辑距离(Edit Distance)指标上,DeepSeek-OCR2从前代的0.085显著降低到了0.057。
4 T6 a* g  ~( C/ ]7 D7 @1 C$ v这直接证明了新模型在处理复杂版面时,逻辑性更强,更懂「阅读顺序」。# N# h# [! X3 ^8 t  t
在和Gemini-3 Pro等闭源强模型的对比中,DeepSeek-OCR2也丝毫不落下风。
+ S4 h* j7 u8 ~% a在均使用约1120个视觉Token的情况下,DeepSeek-OCR2的文档解析编辑距离(0.100)优于Gemini-3 Pro(0.115)。
2 O: h$ Y: H1 _ XJzoAIj7QsAOW07h.jpg
2 ^! E. R" R: e" L+ c gm916YMt2699x19y.jpg , v9 |# k- }4 c3 d& J; x2 t
不仅是刷榜,DeepSeek-OCR2在实际生产环境中也非常能打。
- h. d& g2 q) _" ]- pDeepSeek披露,在处理在线用户日志图像时,OCR结果的重复率从6.25%降到了4.17%;在PDF数据生产场景中,重复率从3.69%降到了2.88%。
: C6 b& ]* A9 S- f) ? ieZy45N94MyMInie.jpg
3 R2 L: X$ [, I4 P这意味着模型生成的文本更加干净、准确,对于作为LLM训练数据的清洗流水线来说,价值巨大。
7 L9 h6 O2 D4 c$ ~4 Z0 f& O& Z迈向真正的多模态统一
3 u5 K$ \  T& |4 A0 |3 TDeepSeek在论文最后提到,DeepSeek-OCR2通过DeepEncoder V2验证了「LLM作为视觉编码器」的可行性。
1 Z8 x4 t, |; ~" T" g这不仅是一个OCR模型的升级,更是迈向原生多模态(Native Multimodality)的重要一步。
0 p/ ]. o" L/ s/ s7 H未来,同一个编码器只要配备不同的模态查询嵌入(Query Embeddings),就能处理文本、图片、音频等多种模态的数据,真正实现万物皆可Token,万物皆可因果推理。; \3 s7 w5 V7 ?
DeepSeek表示,虽然目前光学文本识别(OCR)是LLM时代最实用的视觉任务之一,但这只是视觉理解宏大图景的一小部分。
  P0 n# M& {  H0 _5 E$ lDeepSeek将继续探索,向着更通用的多模态智能进发。
集群智慧云科服专利申请服务

30

主题

440

回帖

1420

积分

等待验证会员

积分
1420
发表于 2026-2-15 23:06:34 | 显示全部楼层
DeepSeek总能不断给我们惊喜!
集群智慧云科服SCI/SSCI/EI期刊发表服务

30

主题

440

回帖

1420

积分

等待验证会员

积分
1420
发表于 2026-2-15 23:36:40 | 显示全部楼层
好样的,DeepSeek!
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则


快速回复 返回顶部 返回列表