Hacker News 中文摘要

RSS订阅

我不认为通用人工智能即将到来 -- I don't think AGI is right around the corner

原文链接 | HN讨论 | 2025-07-07 07:51:00

文章摘要

作者认为通用人工智能（AGI）不会很快实现，尽管当前的大型语言模型（LLM）令人惊叹，但它们仍缺乏一些基本能力，难以替代人类劳动。作者通过自己在播客制作中尝试使用LLM工具的经历，发现这些模型在实际应用中的局限性，从而延长了对AGI实现时间线的预期。

文章总结

文章《Why I don’t think AGI is right around the corner》主要探讨了作者对通用人工智能（AGI）发展时间线的看法。作者认为，尽管当前的大型语言模型（LLMs）已经非常强大，但它们仍然存在一些根本性的局限，尤其是缺乏持续学习的能力，这使得AGI的实现不会在短期内到来。

主要内容总结：

  1. LLMs的局限性：

    • 当前的LLMs虽然在某些任务上表现优异，但它们无法像人类一样通过实践不断改进。作者通过自己在播客制作中使用LLMs的经验指出，尽管LLMs在某些简单任务上表现不错，但它们无法通过反馈持续提升。
    • 人类的有用性不仅在于智力，更在于能够积累上下文、反思失败并通过实践不断改进。LLMs缺乏这种能力，因此无法像人类员工一样在工作中不断进步。

  2. 持续学习的挑战：

    • 作者认为，LLMs的持续学习能力是AGI发展的关键瓶颈。当前的强化学习（RL）微调过程并不像人类学习那样具有适应性和主动性。
    • 尽管可以想象未来会有更智能的模型能够构建自己的RL循环，但这在技术上仍然非常困难，且难以推广到不同类型的任务和反馈中。

  3. 经济影响：

    • 作者不同意某些观点认为即使AI进展停滞，现有模型仍能迅速自动化白领工作。他认为，如果没有持续学习的进展，AI只能自动化部分任务，而无法真正替代人类员工。
    • 如果AI进展停滞，作者认为不到25%的白领工作会被自动化，因为AI无法像人类一样积累上下文和持续改进。

  4. 未来的展望：

    • 尽管作者对短期内AGI的实现持悲观态度，但他对长期发展非常乐观。一旦解决了持续学习问题，AI的价值将出现巨大的飞跃，甚至可能迅速演变为超级智能。
    • 作者预测，AI在2032年左右可能会像人类一样在工作中持续学习，这将带来广泛的智能爆炸。

  5. 技术挑战：

    • 作者对某些乐观的预测（如AI在明年内能够可靠地处理复杂任务如报税）表示怀疑。他认为，当前的模型在处理长时程任务和多模态数据方面仍然存在很大挑战。
    • 即使算法创新看似简单，实际实现也需要大量时间和工程努力，因此短期内难以解决复杂任务。

  6. 时间线预测：

    • 作者认为，AI在2028年左右可能能够像人类一样处理复杂的报税任务，而在2032年左右可能实现像人类一样持续学习的能力。
    • AGI的发展时间线非常不确定，可能在2030年代或2040年代才会出现重大突破。

图片：

Image 1

结论：

作者认为，尽管AI在短期内难以实现AGI，但一旦解决了持续学习等关键问题，AI的进步将非常迅速，甚至可能带来智能爆炸。因此，尽管短期内AGI的实现不太可能，但长期来看，AI的潜力巨大。

评论总结

以下是评论内容的总结，涵盖主要观点和论据，并保持不同观点的平衡性：

1. AGI的临近性

  • 认为AGI还很遥远：
    • 评论3："我不认为AGI即将到来，甚至不确定它是否可能，尤其是使用传统计算机硬件。" (I don't think it is right around the corner. I'm not even convinced it is even possible or at the very least I don't think it is possible using conventional computer hardware.)
    • 评论16："当前的LLMs可能最终会达到人类水平的思维和推理能力，但不会超越。" (current-style LLMs, being inherently predictors of what a human would say, will eventually plateau at a relatively human level of ability to think and reason.)
  • 认为AGI可能较快实现：
    • 评论10："时间线可能更短，因为自主代理的金钱激励会加速发展。" (The insane goldrush when people start using autonomous agents that make money.)
    • 评论17："作者认为到2030年代初有50%的可能性实现AGI。" (the author himself suggests he believes there is a 50% chance of AGI being achieved by the early 2030's.)

2. LLMs的局限性

  • LLMs无法实现真正的智能：
    • 评论6："LLMs虽然掌握了大量知识，但未能做出新的发现，这表明它们缺乏真正的智能。" (these things have basically the entire corpus of human knowledge memorized and they haven’t been able to make a single new connection that has led to a discovery.)
    • 评论21："LLMs并不建模现实，它们的有用性源于语言本身对现实的模拟。" (LLMs don't model anything but are still very useful. In my opinion the reason they are useful is that language itself models reality.)
  • LLMs的潜力：
    • 评论12："长上下文窗口可能解决LLMs的局限性。" (frontier labs think that long context is going to solve this.)
    • 评论23："持续学习并非深度学习的核心改进因素，大规模数据集和扩展性才是关键。" (continual learning has not been an important component of improvement in deep learning history thus far.)

3. AGI的社会影响

  • 社会尚未准备好迎接AGI：
    • 评论14："我希望AGI不会很快到来，因为社会和政治上我们尚未准备好，它可能将人类推向反乌托邦深渊。" (I hope AGI is not right around the corner, for social political reasons we are absolutely not ready for it.)
    • 评论27："即使AGI存在，其高成本和资源需求可能限制其广泛使用。" (it's likely at a very high requirement of horsepower and cost, limiting it's general and broad availability.)
  • AGI的潜在危险：
    • 评论24："当前的AI已经非常危险，尽管它并非真正的智能。" (This does not make current AI harmless; it is already very dangerous.)
    • 评论25："如果足够多的人相信AI是AGI，它就会被当作AGI使用，这将带来无尽的痛苦。" (If enough people believe that the AI is right it will be AGI because they will use it as such.)

4. 技术改进的方向

  • 需要新的学习范式：
    • 评论19："我们需要从简单的自适应系统开始，逐步扩展复杂性，智能才会自然涌现。" (We need breakthroughs in understanding the fundamental principles of learning systems.)
    • 评论28："缺失的关键成分是注意力的自主性，系统需要能够根据内部目标调节注意力。" (one essential missing ingredient is some degree of attentional sovereignty.)
  • LLMs的改进空间：
    • 评论2："o3 pro的长上下文窗口已经足够好。" (o3 pro with actual 1m context window is already good enough for me.)
    • 评论12："未来两年内可能实现1000万token的有用上下文窗口。" (will we have 10mm token useful context windows in 2 years? That seems very possible.)

5. 对AGI的质疑

  • AGI可能永远不会到来：
    • 评论15："AGI永远不会到来，它太难、太昂贵，且没有实际用途。" (AGI is never coming. It's too hard, too expensive, and there's absolutely no valid usecase.)
    • 评论20："Gemini的实验表明我们离AGI还很远。" (this makes it seem like we're a long way from having AGI.)

6. 对AGI的乐观态度

  • AGI可能带来巨大影响：
    • 评论21："LLMs虽然不建模现实，但仍然非常有用。" (LLMs don't model anything but are still very useful.)
    • 评论22："我们得到了非常强大的工具，它们将继续改进。" (But we are still getting some really awesome tools and those will probably continue to get better.)

总结：评论中对AGI的临近性、LLMs的局限性、AGI的社会影响以及技术改进方向存在广泛讨论。尽管一些人认为AGI还很遥远甚至不可能实现，另一些人则认为通过技术改进和激励，AGI可能在不久的将来出现。同时，许多评论者强调社会尚未准备好迎接AGI，并对其潜在危险表示担忧。