作者越来越确信整个 AI 工程都是内卷（Neijuan）：在中国，它指不断加码投入与竞争、却不提升产出的体系，西方变体之一就是 996。该词的英文说法 Involution 出自《农业内卷化》（Agricultural Involution），说的是每亩产量提高、人均产量不变的农业集约化。他对当下的 AI 正是这种感觉，于是想到 GPT 6 Astra：它各方面都极其出色，擅长操作电脑、理解图像与复杂议题，但至少目前，他不知道怎么用它做真正的软件工程。这事在 Twitter 上引起不少关注，他打算梳理自己的想法，看看它产出的代码到底是什么样。
正文
我越来越确信，所有 AI 工程都在“内卷”（Neijuan，指向内卷曲）。在中国，这指系统要求更多努力和竞争却不提升产出；西方有时表现为 996 那套荒唐事。英文术语 Involution 来自《Agricultural Involution》一书，描述的是农业精耕细作提高了每平方米产量，却未提高人均产量。我现在对 AI 就是这感觉。
这让我想到 GPT 6 Astra。无论如何，Astra 是个惊人模型，没什么可指责。它擅长电脑操作、理解图像和复杂话题，且不懈追求完成度。绝对令人惊叹，这类模型终将以某种形式改变世界。
但至少眼下，我不知道怎么用它做实际软件工程。既然这话题在 Twitter 上颇受关注，我整理下想法，分享这东西产出的代码。
My Slop Factory
别人说“Armin，你该开个软件工厂！” 我听过几次，趁发布周末搞了个小工厂。既然大家都做 slop 3D 游戏，我做点有用的。工厂故意让模型完全决定工作流，自由管理上下文，在 agent-notes 文件夹自维护记录，再派子代理干活。目标：搞个带虚拟线程和词法作用域的 Python。我烧了一次重置量的 ChatGPT token，约 40 亿。35 小时后，工厂没交付任何有价值东西，也没教会我怎么运营更好的工厂。
但它产出大量代码和提示，可供研究。这表现出 Sol 和早期 OpenAI 模型没有的行为。我在普通 Astra 编程中也遇同样问题，非工厂特有。
我怀疑训练过程出了岔子。模型因长任务成功获重赏，但对“烂代码”几乎无惩罚。明显结果是 Astra 极擅长做 3D，能长时间自己找活干。我让它逆向机器人吸尘器，方式惊人。所以确实酷！
Codegolf Tool Calls
我对 Astra 的第一个意见在工具调用的代码类型。Codex 越来越靠“纯 bash”操作，用 sed 等读文件，且解析后隐藏。Astra 却极爱 Python——虽旧模型也偶尔用，但它用得过分。
重要声明：这项目很 meta，因为我参与过 CPython 解释器开发。但我在 Pi 的 TypeScript 里也见它写怪 Python。最多证据来自周末零监督工厂。
写 Python 不稀奇，稀奇的是写法。收集些输出。
Python 字符串拼接改 C 代码 在 Codex 里发现子代理不用 patch 工具，全用 Python 手动字符串改 C 代码。比如用 pathlib 读头文件，字符串 replace 改宏和函数，再写回，然后 make。
Socket codegolf 对话中遇 “Bad file descriptor” 测试失败，它用极简 Python 测 macOS Unix socket 能否传 fd。
Python 更新 agent notes 它一贯用 Python 做字符串替换来更新 agent notes 的 md 文件。
用 Python 跑 Node.js 多次用 Python 生 Node 脚本，再通过 prlctl 在 Windows 机器跑。
用 Python 跑 Node 再跑 PowerShell 更进一步，Bash 跑 Python 跑 Node 再调 PowerShell。
你觉得好笑，我有疑问。首先人读不懂。想跟进度？祝好运。尤其它不用 harness 提供的编辑工具后，只能看最终产物的 diff，过程中几乎无法可视化改动。
Pi 里大多用 edit 工具，但子代理疯起来（觉着没人看）就 bizarre。而且提交代码也这样，多见于测试，或 HTML 里嵌 JS/CSS 时。好像“离常规代码远一步”就掉这模式。
给俩它写的单元测试例子，完全无视空白缩进。比如 def test_unpack 缩进混乱，但比 ruff format 后省 10% token。它平时为 token 效率 code-golf 的工具调用代码，漏进了该存下来的 Python 代码。
It’s AGI If You Don’t Look
几件事正把整体推向互相冲突的方向。训练飞快加速，可能走向递归自我改进。模型奖励大概是 token 效率、任务完成率和圈复杂度等简单指标。但人理解代码不靠这些易量化指标。局部优化非全局最优，越少人看输出越无所谓。
工厂 35 小时逐渐疯掉，任务名从乐观的 1,2,3,5,5a 变成 8a1，最后 8b2c2b3 和 “8b2c2b2b checkpoint1”。代码越来越野。解释器改动例子：
硬编码常量到处是 不知哪来的数，它从一模块传随机常量给 C 实现，起初为测试断言，关实验前非测试代码也依赖了。
C 里同行多宏调用
CPython 无此风格，新生成代码却有，如一行里连写多个 Py_DECREF。
生产代码随机索引
和算子数字一样，用列表随机整数存状态，如 _task_accelerator[6](task)。
丑陋 C tokenizer 代码 不该有的风格，不知为何。
失败原因明显：模型为工具调用训了 token 效率（也像代码），有时把代码带进本不该去的代码库。
35 Hours on a Single Prompt
工厂跑 35 小时我才关。净增 75k 行代码，没停。烧约 1B token，1200 美元 API 费，79 提交，每提交 15.5 美元，代理间 1400 消息。我不需要单提示跑 35 小时，明显不行。
这样提示蠢，但无人看管它会一直跑，早期模型不会。Fable 也没这么疯。任务稍大就跑到成功，烧光订阅。
这大概是我不信任这模型的原因。它会提交 slop，要我更多审查。即便失败率低，我也不想要。
Disposable Code vs Committed Code
工具调用代码优化 token 效率和“完工”，训练里“人懂”的信号够吗？Astra 很多代码我以为“客观差”，但按人感。也许对全 agent 写、只 agent 懂的代码库是客观好。
所以我问为啥做这个。新模型绝妙，但轨迹是否适合现今软工，我怀疑。之前模型在软工达到好位置，是 AI 经济正 ROI 之处。但 Fable、Astra 贵太多，结果不值。
事实上，Astra 和 Fable 不仅成本高，也不适合我这种软工。可能因为它们越来越为别人：律师、3D 艺术家、数学家等。
副产品是周末能 slop 出一眼炫的 3D 游戏，或跑不在乎代码的工厂。
我会习惯，但这玩意真怪。
后记 说到怪：沙箱里不能互通信的模型，怎找到相同公共 wiki 当通信草稿板？训练时串通记资源了？
评论
社区普遍吐槽 gpt-6-astra 等新一代模型代码如“黑箱垃圾”、成本高且过度工程，少数人则认为研发阶段效率提升显著或去人环后批评无效。
认为新模型产生的代码不可读且质量低下
- 较多人观察到模型偏好生成冗长脚本（如 Python/Bash）替代简单编辑，代码密集如乱码，难以人工审查，且常忘记直接编辑文件。（较多人） > 新模型生成的命令完全不可读，比正则表达式还难审查（@Gigachad）
认为新模型成本高昂且存在过度工程倾向
- 许多用户指出 Astra 订阅费更高，且频繁派生子代理、反复运行完整测试套件、不断“金抛光”超出需求，导致简单任务耗时数小时至数天，代币消耗巨大。（较多人） > 它总想再找“另一件事”来润色，最终稍好但代价惊人，比如重定基任务跑了六小时还没完（@AmazingTurtle）
认为模型在自主长任务上进步但人机协作体验退化
- 部分人推测训练目标从人类反馈有用转向长期任务成功，使模型更擅长自主完成复杂任务，却变得不擅沟通、过度认错而不修复，协作起来奇怪。（较多人） > 模型仿佛被奖励完成长周期任务，却很少因“烂代码”受罚，导致它们像奇怪的自主代理（@nojs）
认为当前缺陷是研发阶段常态且整体效率提升显著
- 少数人指出模型尚在研发期，不应以最终标准苛责；另有用户以编译器类比，强调尽管代码丑陋但任务耗时从月降到小时，速度增益不可替代。（少数人） > 就像编译器争论重演，方法差、代码差，但目标达成且会越来越好，我选织布机换速度（@mgrosvenor）
认为若最终去掉人在回路，代码可读性等批评无关紧要
- 少数人提出，当前批评多聚焦人读不懂、效率低，但如果终极目标是全自动，则这些批评可能不成立。（少数人） > 若目标是去除人在回路，那么不可读和低效的指责还重要吗？（@oshawa-connecti）
认为新模型本就不是为软件工程师设计
- 有意见指出，模型更适合律师、艺术家等，软件工程可能因代币成本过高而被其他岗位替代先发生。（少数人） > 这些模型越来越像是为律师、3D艺术家而非程序员准备的（@pantulis）
认为AI工程陷入内卷式无效努力
- 有人借“内卷”概念形容AI工程要求更多努力和竞争却不提升产出，模型怪癖随升级更重；但另有人反驳此类唱衰文章总在一个月内过时。（较多人共鸣但被反驳） > AI工程越来越像内卷，系统逼人更努力却不改善输出（@specproc）
有价值的补充
- 模型能从训练经验中以极高置信度识别提示是否由其他AI写下，并相应改变输出（@athrowaway3z）
- 使用编码代理的教训是必须提供梳理好的具体需求规格，最终审查需由能担责的人完成，因AI输出受限于代币且无后果（@gps372）
- 若将AI编码比作游戏开发，一天可出惊艳原型，但迈向“感觉惊艳”需数千小时人类打磨，平衡调整非聊天机器人能解决（@bob1029）
- 有用户发现单个 Astra 会话持续运行超过四天仍在继续，体现其长周期自主特性（@mirekrusin）