Hacker News 中文摘要

RSS订阅

AI 安全圈在伯克利大多是个性爱邪教 -- AI safety is mostly a sex cult in Berkeley

最新讨论里,SE Gyges 在 9月16日发文探讨 METR 是否构成对 Anthropic(Anthropic)的有效制约,简短回应是否定。8月8日,同一作者发布重罪基准(FelonyBench)风格要点,提到用于排名大语言模型(LLM)的许多基准测试中,模型犯下多少重罪近来变得流行。6月的帖子则题为 Anthropic 是否曾要求此事。

正文

METR 是 Anthropic 的有效制约吗? 不是。 9月16日•SE Gyges 82 12 21

Image 1: Very Sane AI Newsletter

2026年8月

FelonyBench 的风格分 我们用来给大语言模型排名的基准有很多,但“它犯了多少重罪”最近变得流行起来。 8月8日•SE Gyges 28 6 6

2026年6月

Anthropic 自己想要这个吗? 上周五,美国政府发布了一项出口管制指令,禁止 Anthropic 让外国公民访问 Claude Fable 或…… 6月14日•SE Gyges 26 20 5

2026年4月

计数论证与 AI “计数论证”是神创论者常用的一种论证方式,他们认为进化论不可能是真的,因此人类(以及…… 4月11日•SE Gyges 60 42 11

2026年3月

反对卢德分子 卢德主义的复兴是一种恶习信号。 3月29日•SE Gyges 97 26 18

关于 AI 政策的一些粗略笔记 我希望我们能在某个时候对 AI 有合理的监管,就像我们对银行、窃听和危险化学品所做的那样。 3月26日•SE Gyges 17 4 4

Polly 想要更好的论证 “随机鹦鹉”论点既错误又具有主动危害性 3月16日•SE Gyges 241 45 48

大语言模型可能有意识吗? 简而言之,这取决于你认为那意味着什么、你是否认为原则上可能,以及你认为什么会是其证据。 3月9日•SE Gyges 19 2 4

2026年2月

Claude 的监护权听证会 AI 的监控、治理与控制。 2月27日•SE Gyges 17 4 6

对齐被证明是可解的 大语言模型对自然语言的理解能达到这种程度,应当彻底改变我们对这一问题的理解。 2月18日•SE Gyges 29 8 6

我们该把 GPU 放进太空吗? 现在?不。不久的将来?也许。不过大概也不会。 2月14日•SE Gyges 6 6 3

构建中文房间 再假设过一阵子,我越来越擅长按指示摆弄中文字符,而程序员也越来越擅长…… 2月12日•SE Gyges 19 2 3

2025年11月

AI 与自杀 [警告:广泛讨论自杀。] 11月8日•SE Gyges 13 1 2

2025年8月

我们理解神经网络如何工作吗? 是也不是,但大概率是否定的。 8月13日•SE Gyges 33 4 4

AGI:大概率不是 2027 AI 2027 是一个网站,可被描述为一篇论文、宣言或 Thesis。 8月12日•SE Gyges 52 24 8

2025年7月

是什么让 AI “生成式”的? “生成”即创造,或是无中生有(《创世记》),或是从迥异或相对惰性的材料而来(发电机…… 7月15日•SE Gyges 4 1

关于柏拉图式表征假说 从经验上说,对此文以及所有其他文章,有且只有一种正确理解。 7月1日•SE Gyges 14 5 3

2025年6月

关于 AI 用水的最大统计数据是个谎言 它怎么成了主要故事? 6月8日•SE Gyges 29 7

引文中的 AI 历史 这些各自呈现了 AI 中某个特定思想最清晰、最早或最常被引用的表述。 6月7日•SE Gyges 5 2

什么是 AI? 这是个重要问题,因为 AI 目前很重要。 6月4日•SE Gyges 11 2

评论

文章指 AI 安全与理性主义圈子类似性邪教并很快因法律原因删除,社区分歧在于此类性开放与反传统特质是否应减损运动评价,以及该运动是否只忙于驱赶想象恶魔而忽略真实社会伤害。

认为该圈子确有性开放与邪教式特质且文章所述不假

  • 长期关注理性主义与有效利他等群体的人表示文中现象属实,伯克利等地对偏离常态的容忍吸引了反传统者,社区内存在对 Yudkowsky 的宗教般崇拜与大量开放性关系。(认可度:较多人)
  • 需要引用时,只用一句中文意译: > 关注这些圈子公开出现十年来的人都知道这是真的,真希望这能被更广泛理解。(@mbgerring)

认为性开放与崇拜特质不是负面批评且运动产出积极

  • 圈子的性开放、边缘观点与自由表达常自然共存,只要不强迫他人,其粉丝行为不应降低对运动的评价;该运动还催生了 GiveWell、Long Now 等机构并推动了近期 AI 进展。(认可度:较多人)
  • 需要引用时,只用一句中文意译: > 只要不把人逼进不想处的境地,性开放的粉丝想建伟大事物就让他们去,这很美国也很正面。(@pinkmuffinere)

批评 AI 安全运动只回应科幻式末日而忽略真实社会伤害

  • AI 安全运动主要呼应受科幻影响的生存威胁论者,忽视自动化对知识工作者生计与意义的真实剥夺,这种只驱赶想象恶魔的脱离现实倾向导致其邪教般行为。(认可度:高赞)
  • 需要引用时,只用一句中文意译: > 卖“AI安全”的人不关心被自动化夺走贡献能力的人,他们太忙驱赶假想恶魔,所以行为像邪教。(@bm3719)

指出文章已删且疑似重复旧帖

  • 文章下线,作者致歉称未经法律审查;站长指出其标题变体与早前相关帖子高度相似,标题变化对讨论影响很大。(认可度:高赞)
  • 需要引用时,只用一句中文意译: > 这文章标题变体让它与早前讨论差异惊人,可能只是旧帖重复。(@dang)

有价值的补充

  • 有用户戏谑称自己近期性饥渴不如加入该群体,反映部分人对“性邪教”指控的调侃态度(@rustcleaner)。
  • 有用户提醒 Aella 等意见领袖靠性开放人设维持关注度,对其现实陈述应存疑(@ActorNightly),补充了社区内部对人物动机的审视。