这篇文章探讨了专家与大型语言模型(LLM)在认知方式上的差异：专家拥有对现实世界的完整认知模型，而LLM仅具备对词语关系的理解能力。文中还提到当前世界模型研究的三大方向：3D视频世界模型、Meta学派的JEPA系列研究，以及追求柏拉图式表征的代码世界模型。

专家拥有世界模型，而大语言模型只有词汇模型

核心观点

本文探讨了专家与大型语言模型（LLM）在决策和推理上的本质差异：专家能够构建动态的“世界模型”，模拟多方博弈中的隐藏信息和对手反应；而LLM仅能生成静态的“词汇模型”，缺乏对对抗性环境的适应性。

关键内容提炼

1. 表面相似，本质不同
- 案例对比：当新手和律师分别审阅AI生成的法律文件时，新手认为“格式合规”，而律师能预见对手可能利用的漏洞。
- 核心差异：专家通过“模拟深度”（simulation depth）评估行动的多阶影响，而非孤立判断文本质量。

2. 对抗性环境中的失效
- 示例：
- 友好但无效的请求：AI生成的Slack消息（“不着急，有空再看”）会被资深同事识别为“低优先级”，而优化版本需包含具体时间、明确阻塞点。
- 金融市场：量化策略一旦被对手识别，会引发反向操作或欺骗性信号。
- LLM局限：其训练目标（生成人类偏好的文本）导致“合作性偏差”，无法动态调整策略以应对对手的试探。

3. 完美信息 vs. 非对称信息博弈
- 象棋/围棋（完美信息）：AlphaGo无需建模对手心理，仅需计算最优解。
- 扑克（隐藏信息）：Pluribus通过平衡所有可能的手牌策略，使对手无法读取模式。LLM缺乏此类递归推理能力，其策略易被人类识破并利用。

4. 根本矛盾：文本与行动的脱节
- 专家技能的本质：是对多方智能体（agents）的实时互动模拟，而文本仅是这一过程的副产品。例如：
- 投资者未公开的头寸管理、时机选择；
- 谈判中故意释放的误导信号。
- LLM的缺陷：仅学习“战略的语言”，而非“战略的动态”，无法处理未记录的对抗反馈。

5. 领域差异与未来挑战
- 象棋型任务（如代码生成、数学证明）：规则明确、无对抗，LLM表现优异。
- 扑克型任务（如诉讼、商业谈判）：依赖隐藏信息和心理博弈，LLM易被利用。
- 行业趋势：DeepMind等机构已开始将扑克、狼人杀等非对称信息游戏作为AI新基准。

6. 解决方案方向
- 训练范式变革：需构建多智能体环境，让LLM在对抗中学习结果导向（如“是否争取到权益”而非“文本是否礼貌”）。
- 当前瓶颈：LLM无法识别情境的对抗性，且缺乏实时适应能力。

总结

专家与LLM的差距并非源于知识量或推理速度，而在于能否在动态博弈中建模对手并规避剥削。当任务涉及多方策略互动时，LLM生成的“合理输出”可能成为致命弱点。这一挑战标志着AI发展从“规模时代”向“研究时代”的回归。

以下是评论内容的总结，涵盖主要观点和论据，并保持不同观点的平衡性：

1. LLM的局限性

   • 观点：LLM是语言模型而非世界模型，语言无法完全描述世界（D-Machine）。
     引用："the world cannot be modeled anywhere close to completely with language alone"
   • 观点：LLM通过语言间接建模世界，存在不一致性和漏洞（naasking）。
     引用："they also have degenerate world models, just with lots of inconsistencies and holes"

2. 多模态与改进潜力

   • 观点：多模态可能弥补LLM的缺陷（naasking）。
     引用："Multimodality should address many of these holes"
   • 观点：LLM结合专家系统可处理80%的常规问题（dataminer）。
     引用："llm can deal with 80% of the situations which are like chess"

3. 编程领域的争议

   • 观点：编程不像象棋，没有明确的规则和胜利条件（measurablefunc）。
     引用："programming is not like chess... the domain of programs is not finitely axiomatizable"
   • 观点：AI仅适用于低风险、需求明确的编程场景（notnullorvoid）。
     引用："AI is good at producing code for scenarios where the stakes are low"

4. 社会与伦理问题

   • 观点：AI可能被政治化，导致事实被主观调控（OldSchool）。
     引用："Subjective regulation of reality... Politicization of knowledge"
   • 观点：LLM无法真正理解文本的上下文（chrisjj）。
     引用："The LLM made that text without evaluating it at all"

5. 实际应用与用户体验

   • 观点：AI生成的Slack消息可能忽略实际职场文化（SecretDreams）。
     引用："'Not urgent' seldom is taken at face value"
   • 观点：通过简单提示调整，LLM可以生成更合适的职场沟通建议（IanCal）。
     引用："This is a very polite and respectful start, which is great since you are new"

6. 技术发展的反思

   • 观点：LLM的发展路径依赖和资源浪费问题（benreesman）。
     引用："lit a trillion dollars on fire... making two years of progress"
   • 观点：LLM兼具统计性和认知性，需科学区分（calf）。
     引用："they are heavily statistical, yet also partly, subtly doing novel computational and cognitive-like processes"

总结呈现了支持与质疑LLM的多方观点，涵盖技术、应用、伦理和发展方向。