文章摘要
作者从OpenAI离职,加入Conduit公司研发“心灵感应”技术,即通过非侵入性神经数据训练思维转文字模型。文章预测未来几年内,人们将主要用思维与AI交流,AI会成为自然的自我延伸而非需要追赶的智能助手。
文章总结
2026年7月23日,我辞去了OpenAI的工作,次日加入Conduit担任创始研究员。我们正在开发心灵感应技术:通过非侵入式神经数据训练思维转文本模型。
思维转文本(心灵感应):我预测几年后,人们将主要通过思维与AI交流。AI不再是需要费力追赶的超级智能助手,而是自然的、令人愉悦的自我延伸。到2027年,戴上神经头带后,只需浏览代码和笔记,模型就能自动解读模糊想法并输出指令。到2030年,AI公司会直接与Conduit的潜在表征对接,思维编码可直接传输,无需解码器。到2035年,AI将成为身体的自然延伸,如同第六感和另一肢体,思维速度达到最快。
构建方法:输入是大脑活动,输出是用户当时的行为(如所写文本)。关键在于遵循"苦涩教训":投入更多计算资源,模型性能会超越任何精巧算法。这需要将数据收集规模扩大数个数量级。非侵入式方法更可行,硬件不断改进且成本降低。目前模型预测文本与目标文本的语义相似度随数据量对数线性增长,类似GPT-2时代。无需完美解码,结合LLM和上下文,思维信号就能像GPS配合地图一样精准。
加入原因:一是愿景宏大且务实——若Conduit成为通用读写公司,估值将超万亿美元;二是联合创始人聪明执着且友善;三是研究问题极具趣味性,涉及编码器、数据效率、合成数据等,且是全新领域。
个人背景:我在华盛顿州长大,5-15岁参加国际象棋比赛,成为女子国际大师。18岁进入哈佛学习计算机科学,受GPT-3和《超级智能》启发投身AI安全研究,后在OpenAI从事对齐工作。欢迎联系我交流或参观旧金山办公室。
评论总结
根据评论内容,主要观点和论据总结如下:
技术可行性争议
- 质疑非侵入式方法的有效性:评论1指出“非侵入式方法存在噪声屏障”,评论13强调“干式EEG电极只能捕捉噪声”,评论19认为“非侵入式神经接口无法实现”。
- 技术乐观派:评论2认为“脑转录可作为高信号RLHF数据,帮助模型更深入对齐人类偏好”,评论3提出“能否实现文本到思维的反向技术”。
隐私与伦理风险
- 思想监控担忧:评论4质问“如何阻止私人思想被LLM读取?”,评论18关注“思想转录的版权归属和隐私控制”,评论24担忧“美国法律是否允许入境者接受读心术”。
- 思想犯罪化风险:评论16调侃“第一次用心灵感应与ChatGPT交互,它可能会因同事放屁而报警”,评论29暗示“思想可能被植入政治观点”。
社会影响批判
- 技术滥用警示:评论11反思“Web 2.0从乐观到崩溃的经历”,评论20担忧“该技术将被用于企业生产力监控”,评论22讽刺“离开OpenAI去建造‘折磨枢纽’”。
- 人性异化担忧:评论9认为“神经模型将支配我们的思想”,评论10恐惧“思想被商业化并用于训练”,评论26表示“从未如此反感一家公司的愿景”。
概念与术语争议
- 评论21指出“思想转文字不等于心灵感应”,评论25批评“即使实现心灵感应,仍会被AI语言风格困扰”,评论27质疑“GPT-7时代是否仍存在AI语言问题”。
潜在应用价值
- 评论5认为“实际存在的读心术比单纯提高工作效率更具变革性”,评论14唯一期待“梦境记录器”,评论17描述“AI作为第六感的愉悦体验”。
时间与可行性质疑
- 评论12质疑“几年内实现心灵感应是否现实”,评论15认为“文章像恶搞”,评论23讽刺“AI成为‘自然愉悦的延伸’的愿景”。