一 | 就在刚刚，DeepSeek开源了一个3B模型DeepSeek-OCR。 近些年，节假日调休的问题，常常被推上舆论的风口浪尖，而今年网上关于调休的讨论尤其热烈。虽然体量不大，但模型思路创新的力度着实不小。 众所周知，当前所有LLM处理长文本时都面临一个绕不开的困境：计算复杂度是平方级增长的。
二 | “五一又双叒调休了”“五一其实只放1天”等话题不断登上热搜。序列越长，算力烧得越狠。
三 | 图源：卡乐图片 宁颖 摄有观点认为调休制度不合理，是时候取消了；有观点认为有的调休“诚意不足水分足”；也有观点认为，调休存在合理性，一味吐槽调休并不能解决休息不够的问题。 调休从1999年开始，已经伴随国人走过了25年。争议当前，调休是否该做优化？如何才能让这个众口难调的问题在理性的讨论中得到进一步解决？值得我们探讨。
四 | 浙江日报：吐槽调休凑假的背后 “五一”将至，又有人吐槽“凑假”模式，这似乎成了小长假前的“必修课”。 近日，有媒体题为《反对调休的声音,不能装作听不到》的评论上了热搜。 于是，DeepSeek团队想到了一个好办法。
五 | 既然一张图能包含大量文字信息，而且用的Token还少，那不如直接把文本转成图像？这就是所谓的“光学压缩”——用视觉模态来给文本信息“瘦身”。
六 | 而OCR正好天然适合验证这个思路，因为它本身就是在做“视觉→文本”的转换，而且效果还能量化评估。 论文显示，DeepSeek-OCR的压缩率能达到10倍，OCR准确率还能保持在97%以上。在网上，有人吐槽，明明只放了一天假，硬把前后双休日拽过来，与其说是放假，不如说是“假放”。 既然讨论如此热烈，这个议题还是有必要说道。 啥意思呢？就是说，原本需要1000个文本Token才能表达的内容，现在只用100个视觉Token就搞定了。
七 | 即使压缩率拉到20倍，准确率也还有60%左右，整体效果相当能打。 OmniDocBench基准测试结果显示： 只用100个视觉Token，就超过了GOT-OCR2.0（每页256个Token）的表现； 用不到800个视觉Token，干翻了MinerU2.0（平均每页超过6000个Token）。
八 | 把放假说成“假放”显然是“气话”，但即便是“气话”，其背后的态度也值得琢磨。 实际上，小长假一度也是很香的，为何近年来吐槽声越来越多？套用《大话西游》里的一句台词：从前的“小甜甜”成了“牛夫人”。
九 | 在实际生产中，一块A100-40G显卡就能每天生成超过20万页的LLM/VLM训练数据。20个节点（160块A100）直接飙到每天3300万页。 DeepSeek-OCR由两个核心组件组成： DeepEncoder（编码器）：负责图像特征提取和压缩； DeepSeek3B-MoE（解码器）：负责从压缩后的视觉Token中重建文本。
十 | 笔者认为，这种吐槽或许与社会观念、社会结构、休假方式的变迁有关。具体来说，它折射了两大变化—— 一个是从期待有假可休到期待有更多假可休。 让我们来重点说说DeepEncoder这个引擎。随着生活水平提高和社会观念多元，当人们获取收入不再像以往那么急迫时，自然期待更多闲暇时间。说得朴实一点：“谁嫌假多呢？”但是，毕竟，休假天数标准是综合考虑经济发展水平、企业人工成本承受能力、职工休息休假需要等因素制定的，很难“一口吃成胖子”。 它的架构很巧妙，通过把SAM-base（8000万参数）和CLIP-large（3亿参数）串联起来，前者负责“窗口注意力”提取视觉特征，后者负责“全局注意力”理解整体信息。这种现实与前述期待之间就有了张力。
十一 | 另一个是从期待有假可休到期待休得更好。
十二 | 小长假推出之初，中国社会的城乡二元结构还比较显著，探亲、团圆是人们的迫切需求。 中间还加了个16×卷积压缩器，在进入全局注意力层之前把Token数量大幅砍掉。但如今，城市化率大幅上升，家庭成员两地分居状况大为改善。 举例而言，一张1024×1024的图像，会被切成4096个patch token。加之中国建起高度发达的高铁系统，探亲这个刚性需求不能说消失了，但确实缓和了。随之而来的是，人们旅游度假的需求大幅攀升。
十三 | 这带来了节假日景区和高速公路的人从众和车堵车，大大折减了旅游出行品质。
十四 | 但经过压缩器处理后，进入全局注意力层的Token数量会大幅减少。
十五 | 这样的好处是，既保证了处理高分辨率输入的能力，又控制住了激活内存的开销。 因此，当利用小长假探亲的需求弱化后，人们就会反思，究竟有多大必要腾挪双休日，拼凑出一个小长假？ 这两大变化，归根结底，依然是人民日益增长的美好生活需要和不平衡不充分的发展之间的矛盾的折射。置于这个背景下，或许能更好地理解公众诉求，推动政策与民意的良性互动。 一方面，客观而言，社会也应理解假期设置的难度，保持一定的耐心和包容。 而且DeepEncoder还支持多分辨率输入，从512×512的Tiny模式（64个Token）到1280×1280的Large模式（400个Token），一个模型全搞定。
十六 | 目前开源版本支持的模式包括原生分辨率的Tiny、Small、Base、Large四档，还有动态分辨率的Gundam模式，灵活性拉满。
十七 | 解码器用的是DeepSeek-3B-MoE架构。 别看只有3B参数，但采用了MoE（混合专家）设计——64个专家中激活6个，再加2个共享专家，实际激活参数约5.7亿。这也让模型既有30亿参数模型的表达能力，又保持了5亿参数模型的推理效率。有道是众口难调，这世上恐怕没有一种休假制度能让所有人满意。另一方面，假期制度设置应该重视公众呼声，认真研究有无针对性调整的必要。 解码器的任务就是从压缩后的视觉Token中重建出原始文本，这个过程可以通过OCR风格的训练被紧凑型语言模型有效学习。退一步讲，哪怕不对休假作大的调整，也应该尽快落实带薪休假制度。 因为，我国法定节假日其实并不少，而软肋恰在带薪休假上。
十八 | 多家媒体梳理显示，62个国家和地区法定节假日天数平均为11.7天。我国（11天）排在并列第33位，属中等水平，超过了澳、美、德、加、英等发达国家。但是在带薪休假上，62个国家和地区工作10年的职工带薪年休假平均为19个工作日。而我国目前是10个工作日，还有提升空间。 数据方面，DeepSeek团队也是下了血本。 从互联网收集了3000万页多语言PDF数据，涵盖约100种语言，其中中英文占2500万页。 更重要的是，带薪休假制度在落实上有待发力。此前，人力资源部在60个城市所作的调查显示，所在单位实行带薪年休假制度且具备休假条件（工作满1年）的职工中，能够享受带薪年休假的人数比例仅为60%。
十九 | 数据分两类：粗标注直接用fitz从PDF提取，主要训练少数语言的识别能力；精标注用PP-DocLayout、MinerU、GOT-OCR2.0等模型生成，包含检测与识别交织的高质量数据。 对于少数语言，团队还搞了个“模型飞轮”机制——先用有跨语言泛化能力的版面分析模型做检测，再用fitz生成的数据训练GOT-OCR2.0，然后用训练好的模型反过来标注更多数据，循环往复最终生成了60万条样本。
| 总之，假期制度的完善是循序渐进的过程，但就短期而言，更有力地落实带薪休假制度或许能起到一石多鸟之功效，回应民众休得更多、休得更好的期待。 此外还有300万条Word文档数据，主要提升公式识别和HTML表格解析能力。 场景OCR方面，从LAION和Wukong数据集收集图像，用PaddleOCR标注，中英文各1000万条样本。 （中国小康网综合浙江宣传、浙江日报）。 DeepSeek-OCR不仅能识别文字，还具备“深度解析”能力，只需一个统一的提示词，就能对各种复杂图像进行结构化提取： 图表：金融研究报告中的图表可以直接提取为结构化数据； 化学结构式：识别并转换为SMILES格式； 几何图形：对平面几何图形进行复制和结构化解析； 自然图像：生成密集描述（dense captions）。 这在STEM领域的应用潜力巨大，尤其是化学、物理、数学等需要处理大量符号和图形的场景。 第一作者Haoran Wei此前曾供职于阶跃星辰，期间发布并开源了GOT-OCR2.0系统 值得注意的是，DeepSeek团队在论文里还提出了一个脑洞大开的想法——用光学压缩模拟人类的遗忘机制。 人类的记忆会随时间衰退，越久远的事情记得越模糊。DeepSeek团队想，那能不能让AI也这样？于是，他们的方案是： 1. 把超过第k轮的历史对话内容渲染成图像； 2. 初步压缩，实现约10倍的Token减少； 3. 对于更久远的上下文，继续缩小图像尺寸； 4. 随着图像越来越小，内容也越来越模糊，最终达到“文本遗忘”的效果。 这就很像人类记忆的衰退曲线，近期信息保持高保真度，久远记忆自然淡化。 虽然这还是个早期研究方向，但如果真能实现，对于处理超长上下文将是个巨大突破——近期上下文保持高分辨率，历史上下文占用更少计算资源，理论上可以支撑“无限上下文”。 简言之，DeepSeek-OCR表面上是个OCR模型，但实际上是在探索一个更宏大的命题：能否用视觉模态作为LLM文本信息处理的高效压缩媒介？ 初步答案是肯定的，7—20倍的Token压缩能力已经展现出来了。 当然，团队也承认这只是个开始。
| 单纯的OCR还不足以完全验证“上下文光学压缩”，后续还计划开展数字–光学文本交替预训练、“大海捞针”式测试，以及其他系统性评估。 不过不管怎么说，这在VLM和LLM的进化路上，又多了一条新赛道。 去年这个时候，大家还在卷怎么让模型“记得更多”。今年DeepSeek直接反其道行之，不如让模型学会“忘掉一些”。 确然，AI的进化，有时候不是做加法，而是做减法。小而美，也能玩出大花样，DeepSeek-OCR这个3B小模型就是最好的证明。 GitHub主页：http://github.com/deepseek-ai/DeepSeek-OCR 论文地址：https://github.com/deepseek-ai/DeepSeek-OCR/blob/main/DeepSeek\_OCR\_paper.pdf 模型下载：https://huggingface.co/deepseek-ai/DeepSeek-OCR 本文来自微信公众号：APPSO （ID：appsolution）。
Current article:http://rqba.caihezhehuagenshun.sbs/ytcef/20260826/973929.html
Published on:21:57:52
微信
移动端
