Hacker News 中文摘要

RSS订阅

告别AI泡沫,准备迎接崩盘 -- Say farewell to the AI bubble, and get ready for the crash

文章摘要

OpenAI发布的GPT-5并未达到预期,表现不如前代产品,未能实现技术突破,反而暴露了诸多问题。这一失败打破了人们对AI技术指数级增长的幻想,揭示了当前AI热潮中的泡沫现象,并对企业和普通民众对AI渗透生活的过高期望和担忧产生了深远影响。

文章总结

大多数未深入参与人工智能热潮的人可能没有注意到,但人们对AI不断迈向超越人类智能、甚至威胁人类的看法在8月7日戛然而止。这一天,备受关注的AI公司OpenAI发布了GPT-5,这款产品曾被该公司长期宣传为将让竞争对手相形见绌,并在这项号称革命性的技术中引发新一轮革命。

然而,GPT-5的表现令人失望。它比OpenAI之前的版本更不友好,且在多个方面表现更差。它在回答用户提示时犯了同样的可笑错误,数学能力没有提升(甚至更差),完全不符合OpenAI及其首席执行官Sam Altman此前的大肆宣传。

技术评论家Alex Hanna表示:“人们曾认为这种增长是指数级的,但现在我们碰壁了。”这一后果不仅影响了许多企业领导者和普通美国人对AI渗透生活的预期和恐惧,还涉及了数千亿美元的投资。风险投资公司和谷歌、亚马逊、微软等大企业已向OpenAI及其众多AI实验室投入巨资,尽管这些实验室尚未盈利。

上市公司纷纷宣布AI投资或声称其产品具备AI能力,希望借此提振股价,就像上世纪90年代的企业通过标榜自己是“互联网公司”来吸引投资者一样。Nvidia作为推动AI研究的高性能芯片制造商,扮演了与90年代英特尔类似的角色,支撑着股市的牛市。

如果AI的承诺像互联网泡沫一样破灭,股票投资者可能面临痛苦的清算。GPT-5的失败发布可能加速这一天的到来。Hanna表示:“AI公司目前确实在支撑美国经济,但这看起来非常像泡沫。”

GPT-5的发布如此令人失望,以至于揭示了整个AI行业对炒作的依赖程度。Altman在发布前将GPT-5与GPT-4o进行比较,称GPT-4o像是与大学生对话,而GPT-5则像是与专家对话。然而,实际表现远未达到这一水平。用户要求GPT-5生成一张标注所有州的美国地图时,它却生成了一个虚构的地图,包括Tonnessee、Mississipo和West Wigina等不存在的州。另一个用户要求列出前12位总统的名字和图片,GPT-5只列出了9位,且名字拼写错误。

经验丰富的用户对新版本的表现感到震惊,尤其是OpenAI决定关闭旧版本的访问权限,迫使用户依赖新版本。一位Reddit用户写道:“GPT-5太糟糕了,回复简短且不充分,AI风格化的对话更令人讨厌,缺乏‘个性’,而且我们没有选择使用其他模型的权利。”OpenAI很快让步,重新开放了旧版本的访问权限。

科技媒体也对GPT-5的表现不以为然。Futurism网站称其为“哑弹”,Ars Technica则称其发布“一团糟”。OpenAI未对公众对GPT-5的负面反应发表评论。

尽管如此,支撑公众对AI预期的炒作机器并未停歇,反而仍在高速运转。AI Futures Project发布的“AI 2027”预测称:“我们预测,超人类AI在未来十年的影响将是巨大的,超过工业革命。”然而,这份文件的其余部分描绘了到2027年底AI代理“最终理解其自身认知”的路线图,内容过于夸张,以至于让人怀疑这是否是对过度AI炒作的讽刺。

GPT-5的失败发布突显了一个问题,即它打破了AI世界最珍视的原则之一:“扩展”——赋予技术更多计算能力和数据——将使人通用人工智能(AGI)更接近现实。这一原则支撑着AI行业在数据中心和高性能芯片上的巨额支出。摩根士丹利估计,到2028年,对更多数据和数据处理能力的需求将需要约3万亿美元的资金,这将超过全球信贷和衍生证券市场的容量。但如果AI无法扩展,大部分甚至全部资金将被浪费。

正如Bender和Hanna在书中指出的,AI推广者通过依赖公众对“智能”一词的模糊理解来吸引投资者和追随者。AI机器人似乎很智能,因为它们在使用语言时显得连贯,但这与认知不同。Hanna表示:“我们想象着文字背后的思维,并将其与意识或智能联系起来。但通用智能的概念并没有明确定义。”

早在20世纪60年代,先驱聊天机器人ELIZA的设计者Joseph Weizenbaum就注意到了这一现象。ELIZA模仿心理治疗师的回应,甚至让知道自己在与机器对话的测试对象认为它表现出情感和同理心。Weizenbaum在1976年写道:“我没有意识到,极短的接触一个相对简单的计算机程序,就能在完全正常的人中引发强大的妄想思维。”他警告说,“对计算机的鲁莽拟人化”——即将其视为某种思维伴侣——产生了“对智能的简单化看法”。

今天的AI推广者利用了这种倾向。他们将AI机器人频繁的错误和捏造称为“幻觉”,暗示机器人有感知,可能稍微偏离了轨道。但Bender和Hanna写道,机器人“没有感知”,暗示它们有感知是更多无益的拟人化。

公众可能终于意识到AI的承诺普遍失败。预测AI将导致创意和STEM领域(科学、技术、工程和数学)大规模失业,可能会让人认为整个企业从一开始就是科技行业的骗局。

预测AI将大幅提高工人生产力的预言尚未实现;在许多领域,生产力下降,部分原因是工人必须被部署来双重检查AI输出,以免其错误或捏造进入关键任务应用——包含不存在先例的法律简报、具有生命威胁的医疗处方等。

一些经济学家普遍对经济收益的预测泼冷水。例如,麻省理工学院经济学家Daron Acemoglu去年预测,AI将在未来10年内使美国生产力提高约0.5%,国内生产总值增长约1%,仅为AI阵营预测的一小部分。

Bender和Hanna的书的价值,以及GPT-5的教训,在于它们提醒我们“人工智能”不是一个科学术语或工程术语。它是一个营销术语。所有关于AI最终接管世界的讨论也是如此。

Bender和Hanna写道:“关于意识和感知的声明是向你推销AI的策略。”同样,关于在AI中赚取数十亿或数万亿美元的讨论也是如此。与任何技术一样,利润将归于一小部分人,而我们其他人将付出代价……除非我们对AI是什么,更重要的是,它不是什么,有更清晰的认识。

评论总结

评论内容主要围绕AI泡沫、技术价值、市场反应和未来展望展开,观点多样且平衡。以下是总结:

  1. AI泡沫与崩溃的预测

    • 一些评论者认为AI行业存在泡沫,并预测未来可能崩溃。
    • 引用:"Dot-com bubble is a good analogy. Nvidia will be Cisco of this era."(nabla9)
    • 引用:"I have also concluded that it is more likely a bubble than not."(geye1234)
  2. AI技术的实际价值

    • 部分评论者认为AI技术具有实际价值,且市场需求将持续存在。
    • 引用:"I use AI all day and I’m sure I’m not the only one."(andrewstuart)
    • 引用:"Even if AI valuations have a sharp correction, there will still be a great need—and demand—for compute."(TMWNN)
  3. 市场炒作与过度宣传

    • 一些评论者批评AI行业的过度宣传和炒作,认为这可能导致泡沫破裂。
    • 引用:"After the crash, tech 'industry leaders' will struggle to explain why/how they were conned into believing that intelligence was a simple database function."(jqpabc123)
    • 引用:"I just don’t get why did Altman had to hype this release so much, what was the plan?"(pera)
  4. 技术发展的长期前景

    • 部分评论者认为,尽管短期内可能出现调整,但AI技术的长期发展前景依然乐观。
    • 引用:"Some of us have lived through multiple bubbles and know that often, the underlying bits are useful and will gain widespread acceptance."(mgarfias)
    • 引用:"The march of AI improving goes on."(tim333)
  5. 对文章和作者的评价

    • 一些评论者对文章和作者提出质疑,认为其观点偏颇或缺乏深度。
    • 引用:"The author isn’t exactly a thought leader in the space, or really any space for that matter. Opinion worth nothing."(1945)
    • 引用:"What a bad article. I mean how biased can you be, to put the first big quote from someone who wrote a book called 'The AI con'."(NitpickLawyer)

总结:评论者对AI行业的看法存在分歧,既有对泡沫破裂的担忧,也有对技术长期价值的认可。市场炒作和过度宣传被认为是泡沫的主要推手,但AI技术的实际需求和未来发展前景依然被看好。