文章摘要
本文介绍了VibeThinker-3B，一个仅3B参数的小型语言模型，通过优化训练流程，在AIME26、LiveCodeBench等严苛推理任务上达到前沿水平，性能可匹敌或超越DeepSeek V3.2等大模型，且未牺牲指令遵循能力。
文章总结
这篇技术报告介绍了VibeThinker-3B，一个拥有30亿参数的紧凑型稠密模型，旨在探索在严格的小模型框架内，可验证推理能力能达到何种程度。该模型基于“频谱到信号”的后训练范式，通过优化流程进行系统性增强，包括基于课程的监督微调、多领域强化学习以及离线自蒸馏。实验评估显示，VibeThinker-3B在要求极高的可验证任务上达到了前沿水平：在AIME26测试中得分为94.3（通过声明级测试时扩展可提升至97.1），在LiveCodeBench v6上Pass@1得分为80.2，并在未见过的LeetCode最新竞赛中展现出强大的分布外泛化能力，接受率达96.1%。这使得其性能跻身一流推理系统之列，能够匹配甚至超越规模大数个量级的旗舰模型，如DeepSeek V3.2、GLM-5和Gemini 3 Pro。此外，IFEval得分93.4表明，这种极端的推理增强并未损害严格的指令可控性。在先前1.5B模型工作的基础上，这些发现引出了“参数压缩-覆盖假说”，该假说认为可验证推理可压缩为紧凑的推理核心，而开放领域知识和通用能力则需要广泛的参数覆盖事实、概念及长尾场景。这一观点表明，紧凑模型不仅是部署高效的替代方案，更是通往参数密集能力领域前沿性能的补充路径。
评论总结
根据评论内容，总结如下：
主要观点与论据：
模型在特定任务上表现不佳：评论1指出生成pelican SVG失败，仅输出矩形和黑圈；评论5发现该模型在安全漏洞检测中表现极差，未能发现任何已知漏洞，而Qwen 3.6和Gemma 4等更小模型表现较好。
在部分领域有潜力但需改进：评论2在源代码安全审查中测试模型，认为其结构化输出能力不足，但可通过调整工作流程弥补；评论3强调模型仅针对Python优化，对其他语言效果不佳，但赞赏领域专用小语言模型（SLM）的发展方向。
对模型能力的理论探讨：评论4提出小模型需具备足够的基础知识才能有效执行任务，类比人类驾驶能力的发展；评论6认为该模型是“擅长推理但知识有限”的智能体，可通过工具和联网能力弥补知识短板。
硬件部署前景：评论7指出此类小模型可部署在专用芯片（如Taalas HC1）上，实现高速推理。
关键引用（保留中英文）：
- 评论1：“I tried generating the classic pelican svg, but it failed horribly just showing me a rectangle and a black circle...”
- 评论5：“It's terrible at hunting security bugs... it found zero.”
- 评论2：“It's not great on structured output... but I'm working around that in my harness.”
- 评论3：“Note that these are Python-only results, the model will not do as well with other languages.”
- 评论4：“Small models need to have enough base knowledge to be able to be good enough...”
- 评论6：“...why have models train on learning anything when you can just train them how to learn...”
- 评论7：“The interesting thing about models this small is they should be able to be put on a single Taalas chip...”
平衡性说明： 评论呈现了模型在特定任务（SVG生成、安全审计）上的失败案例，同时肯定了其在领域专注性、推理能力和硬件部署方面的潜力，并指出其结构化输出和语言泛化性的局限。