文章摘要
作者对生物计算的发展表示担忧，认为其潜在风险令人恐惧，暗示该技术可能带来不可预见的危险。
文章总结
文章主要内容重述：
标题： 我对生物计算感到恐惧
来源： Kuber Studio 博客
发布时间： 2026年5月5日
作者长期研究人工智能（AI），熟悉语言模型（如ChatGPT）的工作原理，包括权重调整和矩阵运算等数学基础。然而，当他看到一家公司通过培养人类神经元并训练它们玩《毁灭战士》（DOOM）时，他感到深深的不安。
核心问题：
生物计算的伦理困境
- 传统AI（如LLMs）被普遍认为不具备“意识”，因为它们只是基于概率的“下一个词预测器”，没有内在体验。
- 但生物计算使用真实的人类神经元，这些神经元在实验中能“看到”并“反应”视觉数据（如游戏画面）。这是否意味着它们具有某种形式的“感知”？
- 实验中的神经元数量（20万个）已超过水母或蠕虫的神经元数量，这是否接近某种“意识”的阈值？
技术与商业的不可逆性
- 生物计算在信息存储和能效上可能优于传统硅基计算，商业利益将推动其发展。
- 作者担忧，人类可能在不充分讨论伦理问题的情况下，打开了“潘多拉魔盒”（如将神经元用于模拟环境中的无限循环任务）。
模糊的边界与未解的疑问
- 如何定义“意识”？谁有权判定这些神经元是否“有感知”？
- 作者没有给出明确结论，但呼吁社会应更关注这一技术的潜在影响。
文章基调：
作者通过个人体验（如对《毁灭战士》的痴迷）引出对生物计算的反思，表达了对技术快速发展而伦理讨论滞后的忧虑。
注： 原文中大量无关内容（如博客目录、标签、推荐链接等）已删减，仅保留与主题相关的核心论述。
评论总结
这篇评论围绕"培养皿中神经元玩《毁灭战士》"实验展开，主要形成以下观点：
- 伦理争议（支持实验方）：
- 认为当前神经元数量远低于人类，实验无需停止 "We treat actual biological animals a lot worse...I don't think we should stop the experiments"(qoez) "这不过是反射回路，距离真正意识还很远"(rolph)
- 伦理争议（反对实验方）：
- 类比素食主义伦理，质疑改造生命本质 "这是与素食主义相同的伦理问题...猪被基因改造后渴望被食用"(philips)
- 担忧资本驱动下的无底线发展 "只要资本主义竞赛继续，就不会有底线"(FrustratedMonky)
- 科学质疑：
- 实验设计存在误导，神经元实际作用有限 "整个PyTorch框架包裹着神经元...卷积网络承担了大部分学习"(pjs_) "神经元根本没有接收视觉信息"(LeCompteSftware)
- 意识本质的哲学讨论 "意识与情感而非认知相关...培养皿神经元不太可能具有意识"(slibhb) "没有科学理论能界定什么具有意识"(AntiDyatlov)
- 社会批判：
- 批评碎片化信息传播导致认知退化 "21世纪荒谬的根源是人们看YouTube而非阅读"(LeCompteSftware)
- 指出人类道德判断的视觉偏见 "道德与人类外貌挂钩...实验室神经元不如有吸引力的肉体重要"(atleastoptimal)