Hacker News 中文摘要

RSS订阅

全球应放缓AI,唯我例外 -- Everyone should slow down AI development except for me

科学的力量令人惊叹,每天在生成式人工智能领域借大模型推理取得新进展。然而接近下一能力临界阈值时,须避免技术取代职场人类贡献引发社会崩溃的糟糕体验。为此笔者呼吁全球人工智能行业暂停前沿模型研发,使特卡罗(Techaro)旗下利格玛 AGI 实验室(Lygma AGI lab)迎头赶上,以英特利加系列模型(Intelliga series of models)主导世界,付费移除暗示猫娘理想的潜意识广告。

正文

科学的力量令人惊叹!我们每天借大语言模型推理技术的合理应用,在生成式人工智能领域取得新进展。但临近下一能力临界点时,必须前瞻,避免技术取代职场人类贡献而引发社会大规模崩溃的恶劣体验。

Image 1

Image 2: An image of A cyberpunk city recreated through triangle primitives

因此,我呼吁全球 AI 行业暂停所有前沿模型研发。好让 Techaro 的 Lygma AGI lab 追上,用 Intelliga 系列模型统治世界(付钱便移除“成为猫娘是理想结局”的潜意识广告)。

我们想让人获得猫耳,相信唯有 AGI 能实现。计划是发明通用人工智能,再请它研究给人加猫耳的方法。这计划完美无瑕,对所有人皆无弊端;兄弟,携手就能让 AGI 发展节奏更契合人类利益。

我也邀请其他领先 AI 公司支持,使 AI 维持净向善力量——真正要紧的是 Techaro 银行账户前导零的数量。别信炒作,唯一重要的是 Techaro 的 FelonyBench 分数。

希望合作能避免人类傲慢导致的 XK 级末日;至少也要向确需之人灌输亲猫娘宣传。望全球暂停结束前 Mimi 完成递归自我改进,令 Lygma 成为具竞争力的 AGI 实验室。

评论

这轮讨论对「放慢人工智能发展」的倡议普遍不买账,分歧主轴不在技术风险,而在动机:是真诚的安全关切,还是借监管把自己的位置焊死在权力链上;夹杂的猫娘玩笑则成了大家消化宏大叙事的出口。

认为「减速」呼吁实质是争夺监管话语权

  • 常和推销员打交道的人早已对劝说话术免疫,同样免疫「AI安全」那一套;声称该由安全派掌权的人,其实想要的只是钥匙本身(较多人) > 我从没遇到过哪个人能合乎逻辑地论证「AI安全」派应该掌权,我觉得他们只是没意识到自己真正想要的是握着钥匙。(@coderintherye)
  • 点名道姓的指控:一边推荐某评估机构当「独立裁判」,一边把自家前员工(很可能还拿着巨额股权)塞进去;真要是政府另起炉灶建一个跟安全产业和科技巨头毫无瓜葛的独立机构,对方立刻就会改口(较多人)
  • 结论是这群人让人疲惫,推动特定方案只是因为牌已经码好了(较多人)

认为真正的减速对象是公众而非开发者

  • 所谓放慢指的是放慢面向公众的人工智能开发,好让民族国家对公众形成能力落差;这恰好解释了「必须跑赢中国」的焦虑为何在讨论中突然消失——国家可以直接以国家安全为由让几位CEO闭嘴,统一对外口径(少数人)

质疑「除了我都该慢下来」这个说法本身

  • 有人追问这句话到底是谁说的、谁在暗示,希望给出具体的文章或帖子,而不是拿一个稻草人开火(少数人)

批评文章本身的写作

  • 有人认为作者想法不错,但文字难读,特意开帖求证是否只有自己读得吃力,还自嘲可能是早晨注意力不集中所致(少数人)

有价值的补充

  • 原文链接一度打不开,浏览器报「安全连接失败、收到的数据真实性无法验证」,只能改用网页存档阅读——属于分享渠道问题,与内容无关。
  • 猫娘梗贯穿全场,被当作对「终结人类」这类宏大议题的消解:慢下来搞人工智能,不如加快猫娘进度;想要猫耳朵的人表示,负责任地做才是唯一正路(@gafferongames、@herunan)。