文章探讨了通过精心设计的“探测”方法，揭示前沿模型训练隐藏信息的技术，包括利用“不可压缩知识探针”估算模型参数、通过分词分析推断训练数据混合比例，以及基于日期或自我认知问题评估训练时间线。

我们能够通过精心设计的“探测”请求，揭示前沿模型训练过程中的隐藏信息。例如，利用“不可压缩知识探针”可估算GPT-5和Opus等模型的参数规模；通过分析模型对令牌的处理方式，能推断其训练数据集的构成；而基于日期或自我认知相关问题的评分，则可估算模型的训练时间线。

大型语言模型的训练通常分为三个阶段：首先，利用海量通用数据（如互联网内容）进行“预训练”，生成一个庞大的自动补全模型；其次，使用特定领域的“教科书级”高质量数据来改进基础模型，扩展其长文本理解等能力；最后，将基础模型转化为“助手”角色，优化其个性、推理能力和工具调用功能。尽管后训练阶段在提升模型推理和问题解决能力上投入的计算资源越来越多，但生成预训练检查点（即模型训练过程中的一个关键文件）仍是成本最高、数据最密集的步骤之一。

为了估算预训练检查点的日期，我构建了一个基于维基百科的每日事实数据集，并对每个模型进行关于特定日期事件的八选一测验。通过分析错误率随时间的变化，可以大致判断模型何时开始失去其训练数据集中的信息。例如，GPT-5.4的事实估算知识截止点与其官方公布的一致。将这一方法应用于所有模型后，我得出以下推测：

• Anthropic的Opus 4.7及之后的所有模型均来自同一训练批次，其知识截止点大约在2025年12月底。
• OpenAI的GPT-5.6系列模型来自其独立的检查点，与GPT-5.5不同，该检查点大约在2026年2月底完成。
• Opus 5的情况较为特殊：其官方公布的知识截止点为2026年5月，但实际表现似乎并不比之前截止于2026年1月的模型更好。

此外，通过询问模型“今天是几号”，可以观察到模型自我认知的时间与其实际知识截止点高度相关。进一步分析模型对自身身份的认知，可以发现一些有趣的现象：OpenAI的模型从未误认自己是其他实验室的模型，但Anthropic的Sonnet 5却会经常自称是GPT-4。这可能是因为大量旧的ChatGPT聊天记录仍被用于Claude的训练数据中。

根据评论内容，主要观点和论据如下：

1. 模型命名与版本更新（评论1，评分None）：评论者指出营销名称如“Opus 5”并非单一模型，而是包含多个版本和微调。关键引用："a marketing name like 'Opus 5' is not a single model, but many models, versions and gets minor updates over time"。

2. AI发展预测（评论2，评分None）：评论者推测2026年1月前将出现2个数量级的再训练改进，并好奇AI何时会达到平台期。关键引用："So Jan 2026 latest, I guess we are due to 2 OOM’s better retraining over the coming years"。

3. 对Anthropic的质疑（评论3，评分None）：评论者对Anthropic声称未蒸馏ChatGPT表示怀疑，认为在GPT-4时代作为弱势方时可能已发生。关键引用："I’m less charitable toward Anthropic supposedly not distilling ChatGPT for training purposes"。

4. 模型发布时机（评论4，评分None）：评论者质疑前沿实验室是否在等待最佳时机发布模型，并希望分析能帮助评估开源模型的差距。关键引用："if this kind of analysis will give us a way to check if the frontier labs are waiting for the right moment to release their models"。

5. 模型知识截止日期（评论6，评分None）：评论者通过实验发现LLM具有分区截止日期，不同领域知识更新频率不同。关键引用："LLMs have distinct/partitioned cutoff dates; for example, historical literature doesn't change... tabloid knowledge, which is always up-to-date"。

平衡性总结：评论整体对AI发展持积极态度，但存在对模型命名、训练数据来源和发布策略的质疑。正面观点关注技术进步（评论2），负面观点涉及商业伦理（评论3）和透明度（评论4）。评论6提供了技术细节的补充视角。