文章探讨了知识工作的表象与实质问题。作者指出人们常通过表面细节（如报告格式、错别字）来评判工作质量，而非深入验证内容准确性，因为后者成本过高。这种以表象替代实质的评判方式可能导致有价值的内容被错误否定。

知识工作的拟像

核心问题：如何在不亲力亲为的情况下判断工作成果的质量？

案例：
一份新产品市场分析报告存在明显瑕疵——日期不符、拼写错误、图表标签重复。尽管这些表面问题可能不影响核心结论，但人们仍会因"敷衍态度"直接否定其价值。这里，表面质量成了评估深层研究质量的廉价替代指标。

知识工作的困境：
- 评估成本高：客观判断工作质量需投入大量精力
- 依赖替代指标：如文档格式、代码风格等易观测的"仪式性标准"
- 大语言模型（LLM）的冲击：
- 能完美模拟顶级咨询报告、专业代码的"外壳"
- 代码审查等流程被AI接管，形成"无实质质量的仪式"
- 人类只需机械标注"LGTM"（Looks Good To Me）

激励错位危机：
1. 员工层面：若考核标准是表面质量，理性选择必然是大量使用LLM生成内容
2. 模型层面：
- 训练目标并非"答案真实性"，而是"符合语料库模式"或"取悦RLHF评判者"
- 系统被优化为生产"像高质量产出的内容"

现状讽刺：
- 企业竞相追逐"token消耗排行榜"
- 产出越多，深度审视时间越少
- 最终陷入古德哈特定律陷阱：当指标成为目标，它将失去意义

（注：保留核心论证链条，删减了重复举例和博客导航栏等非必要信息）

评论总结：

1. AI进步存在但难以衡量

   • 观点：AI的进步确实存在，但衡量标准已超出传统互联网文化的理解范围。
   • 引用：
     • "progress is happening along such dimensions that are completely illegible"（进步发生在早期21世纪互联网文化无法理解的维度）
     • "the values of the society which produced it"（产生它的社会的价值观）

2. AI生成内容的循环问题

   • 观点：AI生成内容被其他AI解析，导致错误难以溯源。
   • 引用：
     • "Everybody's output is someone else's input"（每个人的输出是另一个人的输入）
     • "no one can figure out which part went wrong"（没人能找出问题出在哪里）

3. RLHF和RLVR的例外性

   • 观点：强化学习（如RLHF和RLVR）在数学和编码任务中表现良好。
   • 引用：
     • "RLVR to improve math and coding success rates seems like an exception"（RLVR提高数学和编码成功率似乎是个例外）

4. 知识工作质量可验证

   • 观点：知识工作的质量可以通过深入检查验证，而非仅依赖表面指标。
   • 引用：
     • "you can usually check real quality"（通常可以检查真实质量）
     • "not as extremely easy as 'oh this report contains a few spelling errors'"（不像“这份报告有几个拼写错误”那么简单）

5. AI与人类工作的质量对比

   • 观点：AI和人类工作都存在低质量内容，AI的“特征”已变得容易识别。
   • 引用：
     • "AI signatures are now easy for people to recognize"（AI的特征现在很容易识别）
     • "pre-LLM era as a golden age of high-quality knowledge work"（前LLM时代并非高质量知识工作的黄金时代）

6. 测试价值的统计学视角

   • 观点：测试的失败率本身不能说明其价值，需要更全面的统计指标。
   • 引用：
     • "A 50% failure rate alone does not tell us whether the test is noise"（50%的失败率不能说明测试是否有用）
     • "the author notices that LLMs produce a lot of errors - then concludes that they are useless"（作者注意到LLM产生很多错误，然后得出它们无用的结论）

7. LLM的实用性与验证成本

   • 观点：LLM的验证成本远低于人工完成任务的成本，实用性高。
   • 引用：
     • "the time to verify is much lower than the time required for a human to do the task"（验证时间远低于人工完成任务的时间）
     • "LLMs are hallucinating much less than before"（LLM的幻觉比之前少得多）

8. 理解与信任的平衡

   • 观点：未来工作需要平衡“少做多信任”与真正的理解。
   • 引用：
     • "doing less and trusting more only works up to a point"（少做多信任只能在一定程度内有效）
     • "simulacrum is a great word"（“模拟”是个好词）

9. AI批评的时效性问题

   • 观点：对AI的批评可能很快过时，技术发展迅速。
   • 引用：
     • "this will be wildly out of date within 2-3 years"（这将在2-3年内过时）

10. 学术界的验证压力

    • 观点：学术界面临AI生成内容验证成本过高的问题。
    • 引用：
      • "careful scrutiny of a work done with AI is going to become too costly"（对AI生成内容的仔细审查成本过高）
      • "the appendices extend to hundreds of pages"（附录长达数百页）

11. 商业利益驱动AI推广

    • 观点：大公司因商业利益强行推广AI技术。
    • 引用：
      • "there is so much money on the table that the big players will shove whatever they want"（巨额利益驱使大公司强行推广）

12. 盲目信任AI的风险

    • 观点：开发者盲目信任AI导致文档质量下降。
    • 引用：
      • "developers thought LLMs magically knew everything"（开发者以为LLM无所不知）
      • "The documentation of that team went to absolute shit"（团队文档质量一落千丈）

13. AI的表面理解问题

    • 观点：AI模仿表面理解，但缺乏真正的深度。
    • 引用：
      • "we‘re cargo-culting understanding"（我们在模仿理解）
      • "reproducing the surface of having understood something"（复制表面上的理解）

14. 验证与生成的效率对比

    • 观点：验证答案的正确性比生成答案更容易。
    • 引用：
      • "Verifying the correctness of solutions is often much easier"（验证正确性通常比生成更容易）
      • "the meta-training loop still does"（元训练循环仍会验证准确性）

15. 反AI文章的讽刺性

    • 观点：反AI文章使用AI生成是一种讽刺。
    • 引用：
      • "all these anti-AI articles are written, using large language models"（所有反AI文章都是用大语言模型写的）
      • "an embarrassment for everyone who moans and carps"（对抱怨者的尴尬）