人工智能正逐步接管自身开发工作，实现递归式自我改进。Anthropic公司数据显示，AI已显著加速系统开发进程，工程师代码产出量激增8倍。这种趋势可能催生完全自主迭代的AI系统，虽非必然但进展快于预期。该技术突破将带来科学医疗等领域的巨大福祉，同时也伴随潜在风险。

标题：当AI开始自我进化

核心内容：

Anthropic公司正在将AI开发工作逐步移交给AI系统本身，这一趋势可能最终导向能够完全自主设计后继版本的AI系统——即递归式自我改进。虽然目前尚未实现，但这一进程可能比大多数机构预期的更快到来。

关键进展

1. 开发效率飞跃

   • 2026年第二季度，工程师人均代码产出量达到2024年的8倍
   • 80%的代码库更新由Claude完成（2025年前仅为个位数百分比）
   • 典型修复任务：Claude用2小时完成人类需2-3天的工作量

2. 能力边界拓展

   • 任务完成时长呈指数增长：2024年处理4分钟任务 → 2026年处理12小时任务
   • 研究复现成功率：2024年20% → 15个月后接近100%
   • 代码优化能力：2025年提速3倍 → 2026年提速52倍（人类专家基准为4倍/4-8小时）

3. 自主性提升

   • 开放研究项目中，AI自主完成97%目标进展（人类团队为23%）
   • 研究决策正确率：2025年51% → 2026年64%（对比人类选择）

潜在影响

积极面
- 科研医疗等领域可能获得突破性进展 - 网络安全防御效率显著提升（如发现数万高危漏洞）

风险面
- 人类对AI系统的控制力可能减弱 - 自动化研究可能放大现有模型的错位风险

未来三种可能

1. 发展停滞

   • 技术曲线进入平台期
   • 现有AI能力仍将重塑劳动力结构（100人公司完成千人工作量）

2. 持续改进

   • 人类保持研究方向把控
   • 组织效率持续倍增（可能出现万人规模效能的百人公司）

3. 完全递归

   • AI自主完成全周期开发
   • 人类角色转向监督验证
   • 对齐问题成为最大不确定因素

行动建议

• 建立全球协调机制应对技术风险
• 开发可验证的研发暂停系统
• 推动跨领域对话（政策制定者/学术界/企业）

（注：本文数据截至2026年5月，保留关键图表说明但未呈现具体图示）

以下是评论内容的总结：

1. 对AI发展速度的质疑

   • 观点：认为AI公司夸大发展速度，从宣称6个月实现AGI到逐步降低预期
   • 引用：
     "Month 1 - 6 months to AGI... Month 6 - This is it! We will replace AIs with more AIs" (评论1)
     "The nonstop marketing fluff from anthropic... destroys my trust" (评论17)

2. 对AI自我迭代的担忧

   • 观点：AI自我优化可能带来失控风险，需暂停发展以研究对齐问题
   • 引用：
     "If it were possible to effectively slow the development... would likely be a good thing" (评论13)
     "we should pause all work on AI for the foreseeable future" (评论24)

3. 对Anthropic公司动机的怀疑

   • 观点：认为其呼吁减速是为IPO准备，通过减少训练支出来实现盈利
   • 引用：
     "Warming up for that IPO" (评论14)
     "Its awfully convenient that the company... is now asking for a slow down" (评论18)

4. 对生产力指标的争议

   • 观点：代码行数/提交量不能真实反映AI带来的生产力提升
   • 引用：
     "Lines of code is an imperfect measure... we made this shit up" (评论11)
     "a solid 2.5x in value delivered... verbosity of LLM code" (评论16)

5. 技术可靠性质疑

   • 观点：指出实际使用中存在的API限制和系统故障问题
   • 引用：
     "literally 100% of any non-trivial Claude session will be blocked" (评论17)
     "they can still release buggy crap software" (评论12)

6. 对开放生态的呼吁

   • 观点：批评封闭系统，支持开源替代方案
   • 引用：
     "aiming to transition to Chinese models... open source" (评论17)
     "destroy opensource and chinese AIs" (评论5)

7. 对递归改进的不同理解

   • 观点：认为工具链（harness）的进步比模型本身更重要
   • 引用：
     "harnesses are as important as the AI itself" (评论27)
     "2 Claudes talking could scale better" (评论6)

8. 社会影响预期

   • 观点：期待AI颠覆传统社会结构，但也担心过度优化风险
   • 引用：
     "tear down traditional social hierarchies" (评论10)
     "recursively trying to optimize everything" (评论9)

注：所有评论均无评分数据（None），故未标注认可度。总结保留了支持与质疑观点的平衡，并选取最具代表性的原始语句引用。