当前围绕大型语言模型（LLMs）的讨论充满了不切实际的幻想和过度乐观。一些人认为LLMs是神奇的工具，能够解决所有问题，而另一些人则完全否定其价值。这种分歧源于对技术实际应用和局限性的理解差异，许多人并未深入探究LLMs的底层机制，仅停留在表面使用。行业中的“魔法思维”使得理性讨论变得困难，导致对LLMs的评价两极分化。

文章《Everything around LLMs is still magical and wishful thinking》探讨了当前围绕大型语言模型（LLMs）的讨论中存在的一种普遍现象：许多人将LLMs视为“魔法”或“奇迹”，而另一些人则认为它们毫无用处。作者通过分析Hacker News上的讨论，指出这种分歧的原因在于缺乏对LLMs实际应用场景的量化描述。

主要内容总结：

1. 分歧的原因：

   • 人们对LLMs的评价差异巨大，部分原因是缺乏对具体应用场景的详细描述。例如，我们不知道使用者是在什么项目、代码库或语言中使用LLMs，也不知道他们的专业水平如何。
   • LLMs的非确定性使得即使在同一问题下，结果也可能随时变化，这进一步增加了评价的复杂性。

2. 行业中的“魔法思维”：

   • 作者批评了行业中普遍存在的“魔法思维”，即不加批判地接受LLMs的“神奇”效果。这种思维导致许多人盲目相信LLMs的能力，而忽略了其局限性和不确定性。
   • 作者举例说明了某些“行业领袖”在社交媒体上夸大LLMs的效果，但这些言论往往缺乏具体细节，无法验证其真实性。

3. 作者的个人经验：

   • 作者本人广泛使用了各种LLM工具，如Vercel的v0、Claude Code、Midjourney等，并承认这些工具在某些情况下确实有效，但效果并不稳定。
   • 作者强调，LLMs并非“魔法”，也不是“工程”，而是一种非确定性的统计机器。它们的成功与否取决于具体的应用场景和运气。

4. 结论：

   • 当前关于LLMs的讨论过于极端，要么将其神化，要么完全否定。作者呼吁更理性地看待LLMs，认识到它们的局限性和不确定性，而不是盲目追随炒作。

图片保留：

• 文章中提到的图片（如Claude Code的示例）可以保留，以帮助读者更直观地理解作者的观点。

通过这篇文章，作者提醒读者在讨论和使用LLMs时保持批判性思维，避免陷入“魔法思维”的陷阱。

主要观点总结：

1. 加密货币与LLM的类比：

   • 支持者：加密货币和LLM对某些人来说是生命线或革命性工具。例如，加密货币帮助无法开设银行账户的人（评论1），而LLM在处理大量数据或代码生成方面表现出色（评论5、12）。
   • 批评者：两者都存在过度炒作和“魔法思维”的问题，实际应用可能不如宣传的那么广泛或有效（评论4、22）。

2. LLM的实用性与局限性：

   • 支持者：LLM在特定任务中表现出色，如代码生成、翻译、转录等，显著提高了生产力（评论5、12、18）。
   • 批评者：LLM的非确定性和幻觉问题使其在关键任务中不可靠，且其应用范围有限（评论10、24）。

3. LLM的普及与教育：

   • 支持者：随着教育和应用的深入，LLM将逐渐渗透到更多领域，类似于智能手机的普及（评论14、19）。
   • 批评者：LLM的广泛应用可能导致滥用和低质量代码的泛滥，且其实际价值尚未被广泛验证（评论20、21）。

4. LLM的未来发展：

   • 支持者：LLM技术仍在快速发展，未来可能在更多领域实现突破（评论25）。
   • 批评者：LLM的最终能力和普及程度仍不确定，且其发展可能受到技术瓶颈的限制（评论6、17）。

关键引用：

1. 加密货币与LLM的类比：

   • "Crypto is a lifeline for me, as I cannot open a bank account in the country I live in, for reasons I can neither control nor fix."（评论1）
   • "Even crypto people didn’t dogfood their crypto like that, on their own critical path."（评论5）

2. LLM的实用性与局限性：

   • "I’ve shipped non trivial greenfield products which I started back when it was only ChatGPT and it was shitty."（评论12）
   • "I can’t imagine trusting code generated by probablities for anything mission critical."（评论10）

3. LLM的普及与教育：

   • "Similar with LLMs. Virtually all of my non technical friends use it now for incredibly varied use cases."（评论14）
   • "Millions of beginner developers running with scissors in their hands, millions of investment in the garbage."（评论20）

4. LLM的未来发展：

   • "We can probably get to about 95% optimizing current technology."（评论6）
   • "It alone potentially saves so much toil, so much stupid work."（评论25）