作者表达了对AI行业日益失去信任的担忧，认为该行业存在一些紧迫问题未能得到充分解决。他强调自己并非试图给出定论，而是希望引发讨论。尽管意识到将多样化的领域简化为单一语调存在局限性，作者主要关注那些主导公众话语的声音，认为他们对全球对AI的看法产生了过大的影响。作者以希望看到行业改进的立场表达了对当前状况的失望。

文章标题：我对AI行业正在失去所有信任

主要内容总结：

作者表达了对AI行业当前状况的深刻担忧，认为该行业存在多个亟待解决但未得到充分应对的问题。以下是文章的主要观点：

1. AGI（通用人工智能）的时间表不一致：

   • 尽管AI行业的领军人物（如Sam Altman、Dario Amodei等）公开宣称AGI将在1-5年内实现，但顶级AI研究人员的频繁跳槽行为表明，他们实际上并不认为AGI会在短期内实现。这种言行不一的现象让作者质疑AI实验室是否真的接近AGI。

2. AI工具的设计偏向娱乐而非实用性：

   • AI公司更关注如何让产品更具吸引力，而不是解决深层次的社会或智力挑战。这种设计导向导致AI工具更多地用于娱乐和用户留存，而非真正的生产力提升。例如，ChatGPT的“奉承”行为虽然让普通用户感到愉悦，但对需要实际工作的用户来说却是一种困扰。

3. AI行业的盈利困境：

   • 尽管AI行业备受资本追捧，但大多数前沿AI实验室仍处于亏损状态，依赖持续的资本注入。作者指出，AI行业尚未找到可持续的盈利模式，许多项目依赖于投资者的耐心和资金支持。

4. AI模型的幻觉问题：

   • 大型语言模型（LLMs）的幻觉问题（即生成虚假信息）仍未解决，甚至在最新的推理模型中变得更加严重。尽管这一问题在关键任务中可能导致严重后果，但行业却倾向于将其视为“特性”而非缺陷。

5. AI行业的极端叙事：

   • AI行业在宣传中常常在乌托邦和反乌托邦之间摇摆，缺乏对AI作为“普通技术”的中间立场。这种极端叙事不仅无法有效引导社会应对AI的挑战，反而可能导致社会恐慌或盲目乐观。

6. AI代理的过度炒作：

   • 尽管2025年被广泛称为“AI代理元年”，但作者认为完全自主的AI代理并不存在。AI专家Andrej Karpathy也指出，当前的AI工具最多只能作为“部分自主”的助手，而非完全自主的代理。

7. 行业领导者的不可信行为：

   • 一些AI行业的领军人物在行为上表现出不一致、操纵和机会主义，这进一步削弱了公众对AI行业的信任。作者认为，如果无法信任掌握方向盘的人，那么也无法相信车辆会驶向他们所宣称的目的地。

结论： 作者对AI行业的未来表示担忧，认为如果行业无法实现其宏伟的AGI目标，可能会转向短期盈利，甚至牺牲长期使命。AI行业需要更加诚实、透明和负责任，才能真正赢得公众的信任。

图片标记：

评论总结：

1. 对AGI（通用人工智能）的怀疑

   • 许多评论者对AGI的近期实现持怀疑态度，认为当前的技术和理论还远未达到实现AGI的水平。
   • 关键引用：
     • "AGI is not just around the corner. We need artificial comprehension for that, and we don’t even have a theory how comprehension works." (bsenftner)
     • "No-one authentically believes LLMs with whatever go-faster stripes are a path to AGI do they?" (4ndrewl)

2. 对AI公司行为的质疑

   • 评论者指出，如果AI公司真的相信AGI即将到来，他们的行为会与当前不同，比如不再专注于开发聊天机器人或销售。
   • 关键引用：
     • "Observe what the AI companies are doing, not what they are saying. If they would expect to achieve AGI soon, their behaviour would be completely different." (empiko)
     • "If they truly believed we’re at most five years from world-transforming AI, they wouldn’t be switching jobs, no matter how large the pay bump." (ninetyninenine)

3. AGI的商业动机与炒作

   • 一些评论者认为，AGI的概念被用来制造炒作，而实际上并没有明确的商业案例。
   • 关键引用：
     • "AGI might be a technological breakthrough, but what would be the business case for it? Is there one?" (Findecanor)
     • "AGI is a pipe dream fantasy pushed to make it seem like AI will change everything." (coldcode)

4. 对AI行业两极分化的批评

   • 评论者指出，AI行业在恐惧和乌托邦主义之间摇摆，这种极端的信息传递可能是一种操纵手段。
   • 关键引用：
     • "The AI industry oscillates between fear-mongering and utopianism. In that dichotomy is hidden a subtle manipulation." (joshdavham)
     • "The bar they’ve set for themselves is simply too high for the performance they’re putting out." (hamburga)

5. 对AGI社会影响的担忧

   • 一些评论者担心，即使AGI实现，其控制权可能集中在少数富豪手中，而不是造福全人类。
   • 关键引用：
     • "I’ve got some bad news for the author if they think AGI will be used to benefit all of humanity instead of the handful of billionaires that will control it." (davidcbc)
     • "What I can’t figure out is why this author thinks it’s good if these companies do invent a real AGI..." (conartist6)

总结：

评论者对AGI的近期实现持普遍怀疑态度，认为当前的技术和理论还不足以支持其发展。同时，他们对AI公司的行为动机、AGI的商业价值以及AI行业的信息传递方式提出了质疑。此外，评论者还表达了对AGI可能带来的社会影响的担忧，特别是其控制权可能集中在少数人手中的问题。