最新讨论里,SE Gyges 在 9月16日发文探讨 METR 是否构成对 Anthropic(Anthropic)的有效制约,简短回应是否定。8月8日,同一作者发布重罪基准(FelonyBench)风格要点,提到用于排名大语言模型(LLM)的许多基准测试中,模型犯下多少重罪近来变得流行。6月的帖子则题为 Anthropic 是否曾要求此事。
正文
METR 是 Anthropic 的有效制约吗? 不是。 9月16日•SE Gyges 82 12 21

2026年8月
FelonyBench 的风格分 我们用来给大语言模型排名的基准有很多,但“它犯了多少重罪”最近变得流行起来。 8月8日•SE Gyges 28 6 6
2026年6月
Anthropic 自己想要这个吗? 上周五,美国政府发布了一项出口管制指令,禁止 Anthropic 让外国公民访问 Claude Fable 或…… 6月14日•SE Gyges 26 20 5

2026年4月
计数论证与 AI “计数论证”是神创论者常用的一种论证方式,他们认为进化论不可能是真的,因此人类(以及…… 4月11日•SE Gyges 60 42 11

2026年3月
反对卢德分子 卢德主义的复兴是一种恶习信号。 3月29日•SE Gyges 97 26 18

关于 AI 政策的一些粗略笔记 我希望我们能在某个时候对 AI 有合理的监管,就像我们对银行、窃听和危险化学品所做的那样。 3月26日•SE Gyges 17 4 4
Polly 想要更好的论证 “随机鹦鹉”论点既错误又具有主动危害性 3月16日•SE Gyges 241 45 48

大语言模型可能有意识吗? 简而言之,这取决于你认为那意味着什么、你是否认为原则上可能,以及你认为什么会是其证据。 3月9日•SE Gyges 19 2 4

2026年2月
Claude 的监护权听证会 AI 的监控、治理与控制。 2月27日•SE Gyges 17 4 6

对齐被证明是可解的 大语言模型对自然语言的理解能达到这种程度,应当彻底改变我们对这一问题的理解。 2月18日•SE Gyges 29 8 6

我们该把 GPU 放进太空吗? 现在?不。不久的将来?也许。不过大概也不会。 2月14日•SE Gyges 6 6 3

构建中文房间 再假设过一阵子,我越来越擅长按指示摆弄中文字符,而程序员也越来越擅长…… 2月12日•SE Gyges 19 2 3

2025年11月
AI 与自杀 [警告:广泛讨论自杀。] 11月8日•SE Gyges 13 1 2

2025年8月
我们理解神经网络如何工作吗? 是也不是,但大概率是否定的。 8月13日•SE Gyges 33 4 4

AGI:大概率不是 2027 AI 2027 是一个网站,可被描述为一篇论文、宣言或 Thesis。 8月12日•SE Gyges 52 24 8

2025年7月
是什么让 AI “生成式”的? “生成”即创造,或是无中生有(《创世记》),或是从迥异或相对惰性的材料而来(发电机…… 7月15日•SE Gyges 4 1

关于柏拉图式表征假说 从经验上说,对此文以及所有其他文章,有且只有一种正确理解。 7月1日•SE Gyges 14 5 3

2025年6月
关于 AI 用水的最大统计数据是个谎言 它怎么成了主要故事? 6月8日•SE Gyges 29 7

引文中的 AI 历史 这些各自呈现了 AI 中某个特定思想最清晰、最早或最常被引用的表述。 6月7日•SE Gyges 5 2

什么是 AI? 这是个重要问题,因为 AI 目前很重要。 6月4日•SE Gyges 11 2

评论
文章指 AI 安全与理性主义圈子类似性邪教并很快因法律原因删除,社区分歧在于此类性开放与反传统特质是否应减损运动评价,以及该运动是否只忙于驱赶想象恶魔而忽略真实社会伤害。
认为该圈子确有性开放与邪教式特质且文章所述不假
- 长期关注理性主义与有效利他等群体的人表示文中现象属实,伯克利等地对偏离常态的容忍吸引了反传统者,社区内存在对 Yudkowsky 的宗教般崇拜与大量开放性关系。(认可度:较多人)
- 需要引用时,只用一句中文意译: > 关注这些圈子公开出现十年来的人都知道这是真的,真希望这能被更广泛理解。(@mbgerring)
认为性开放与崇拜特质不是负面批评且运动产出积极
- 圈子的性开放、边缘观点与自由表达常自然共存,只要不强迫他人,其粉丝行为不应降低对运动的评价;该运动还催生了 GiveWell、Long Now 等机构并推动了近期 AI 进展。(认可度:较多人)
- 需要引用时,只用一句中文意译: > 只要不把人逼进不想处的境地,性开放的粉丝想建伟大事物就让他们去,这很美国也很正面。(@pinkmuffinere)
批评 AI 安全运动只回应科幻式末日而忽略真实社会伤害
- AI 安全运动主要呼应受科幻影响的生存威胁论者,忽视自动化对知识工作者生计与意义的真实剥夺,这种只驱赶想象恶魔的脱离现实倾向导致其邪教般行为。(认可度:高赞)
- 需要引用时,只用一句中文意译: > 卖“AI安全”的人不关心被自动化夺走贡献能力的人,他们太忙驱赶假想恶魔,所以行为像邪教。(@bm3719)
指出文章已删且疑似重复旧帖
- 文章下线,作者致歉称未经法律审查;站长指出其标题变体与早前相关帖子高度相似,标题变化对讨论影响很大。(认可度:高赞)
- 需要引用时,只用一句中文意译: > 这文章标题变体让它与早前讨论差异惊人,可能只是旧帖重复。(@dang)
有价值的补充
- 有用户戏谑称自己近期性饥渴不如加入该群体,反映部分人对“性邪教”指控的调侃态度(@rustcleaner)。
- 有用户提醒 Aella 等意见领袖靠性开放人设维持关注度,对其现实陈述应存疑(@ActorNightly),补充了社区内部对人物动机的审视。