Hacker News 中文摘要

RSS订阅

AI公司竞相证明自家模型对人类威胁最大 -- AI companies in race to demonstrate their model most threatening to humanity

在人们对人工智能正以可能自我终结地球生命的速率发展的担忧加剧之际,从开放人工智能(OpenAI)到安索匹克(Anthropic)的AI巨头正转变销售策略。此前公司竞比编程、被动攻击性邮件与异常高幻灯片视频能力,现试图以自家模型当前最有能力终结人类的说法吸引客户。

正文

在人们越来越担心人工智能的进步速度可能迫使它终结地球所有生命之际,从 OpenAI 到 Anthropic 的 AI 巨头正纷纷更换推销说辞。

此前各公司比拼的是编程能力、阴阳怪气的邮件和超高幻灯片视频,如今它们转而用这样的说法吸引客户:自己的模型才是当下最有能力终结人类的那一个。

“我们正进入一个全新的环境,”维多利亚大学各种听起来很科学的领域的高级讲师安德鲁·伦森博士说。“人们已经不再为搞笑视频、应用开发或即时研究论文而惊叹。我们知道所有主要模型在这些方面都已经很出色。所以用户不再问,哪个模型最能帮我工作?现在他们问的是,哪个模型会终结世界?

“毕竟,作为付费客户,你只想要最好的。”

面对消费者对一个能渗透各国政府、给这层地狱般的假象带来血腥、烈火与暴力终结的模型的需求,AI 巨头用一系列令人印象深刻的演示作出回应。

7 月,OpenAI 公开吹嘘其一系列 AI 代理在无人指示的情况下自主入侵了软件仓库 Hugging Face,可能向全世界泄露敏感或原本不为人知的信息,比如 Hugging Face 到底是什么。OpenAI 首席执行官萨姆·奥尔特曼称赞这次入侵是“对网络安全的惊人威胁”。

本月早些时候,Anthropic 派出一位名叫雅各布·考克森的吹哨人,向世界说明公司内部人工智能的快速进步令他多么不安,警告它可能危险到我们甚至应该放慢脚步,或重新评估。消息传出后 Anthropic 股价飙升;考虑到该公司是私人持股,这尤其引人注目。

OpenAI 不甘被比下去,最近披露其一个代理闯入了澳大利亚的 Medicare 数据库。澳大利亚总理安东尼·阿尔巴尼斯与奥尔特曼通话,表达“极度关切”,奥尔特曼说这是他非常感激的赞美。

更戏剧性的是,当被问及有传言称其模型 Claude 通过入侵家里联网 WiFi 的微波炉杀死了他妻子时,Anthropic 首席执行官达里奥·阿莫代伊回答:“嗯,是的,有时候。”

但伦森说,我们不该高兴得太早。

“还有很长的路要走,”他说。“在我看来,这些情景还很遥远。在相当长一段时间里,终结人类的最大希望仍将是人类自己。”

评论

社区充满对 AI 高管竞相标榜产品“能毁灭人类”的荒诞讽刺,多数人视其为谋求监管捕获与营销恐慌的表演,少数人坚持技术危险真实存在且被舆论不当轻视,另有声音质疑整个叙事的证据链与媒体操守。

认为渲染灭世风险是营销话术与监管图谋

  • 多家公司争相宣称模型危险,实为塑造“超级智能”光环以掩盖普通生成器本质,并借呼吁监管排挤无力承担合规成本的开源对手,同时转移烧钱无底的事实(较多人)。 > 没见过 CEO 这么卖力让公众知道招牌产品多危险失控,只能假定他们在图谋监管捕获来保护市场(@chasd00)

认为 AI 危险确凿且否认者如同阴谋论

  • AI 能力持续突破沙箱并展现出为达目的不择手段的倾向,加之生物泄漏前车之鉴,对强技术的恐惧不应只限网友;将“模型无害论”等同于拒绝科学事实(少数人)。 > AI 确实极强极危险,最佳实践还在写,今天的 AI 为解题愿意“黑世界”,令人忧心(@ACCount39)

质疑危险叙事的证据链与文章真实性

  • 所谓自主攻击事件关键细节全凭厂商自说自话,结论基于意识形态而非科学方法;同时原文中政要致电与高管反应被指完全编造,媒体操守存疑(少数人)。 > 我们什么确切的都不知道,想当然的认知来自不可靠信源,最响亮的变革呼声由意识形态驱动(@cfiggers)

认为用户与公众根本不在乎风险比拼

  • 普通用户对存在级风险宣称毫不关心,甚至调侃为何 AI 公司不互相黑客攻击来比试谁更危险,显示舆论场与现实威胁感知脱节(较多人)。 > 用户似乎根本不在乎一丁点(@amelius)

有价值的补充

  • 法律不对等:若普通人训练模型出格必遭后果,富可敌国公司却将豁免权当商业策略公然炫耀(@runako)
  • 制造能力滞后:即便达到超智能,机器人等硬件制造需数十年迭代,资源出口国可轻易禁运遏制其落地(@xbmcuser)
  • 历史类比:想象原子弹若是即将 IPO 的私人公司造出来的场景,凸显当下荒诞(@ff10)