在一门课上,我问谁怕毕业找不到工作,150人中约80%举手,约120学生相信自己无未来位置。邮件里博士生盼毕业去前沿实验室,觉学术无意义。我认为都错,因假定研究未来归最多GPU者;反之学术界将复兴,未来10年精彩工作在大学实验室因其有限资源。本周用代码证此,帖有6部分。
正文
在一堂课上,我问了一个自己害怕问但需要答案的问题:“谁害怕毕业后找不到工作?”房间里 150 人,约 80% 举手,也就是约 120 名学生同时表示,他们不相信未来有自己的位置。
另一则故事来自邮件。博士生迫不及待想毕业,因为他们想加入前沿实验室,并认定学术界的研究没有意义。他们在数着离开的年头。
我认为这两个故事都错,而且错在同一个原因:它们假设研究的未来属于拥有最多 GPU 的人。我相信相反。学术界可能正迎来复兴,未来十年最令人兴奋的工作会发生在大学实验室——不是因为资源有限,而正是因为资源有限。
这一周就是我们对这个判断的论证,而且用代码,不用散文。接下来分六部分:为什么像我们这样的实验室现在发布生态系统而不是论文;开源周里有什么;我不断遇到的悲观为什么错;该放下什么、坚持什么;放下之后研究会是什么样;为什么复兴发生在学术界。
研究的单位不再是论文
过去一年有些东西变了,大多数人的习惯还没更新。有了 agents,研究项目变得容易而快。过去要一年工程和实验的工作,现在几周、有时几天就能完成。更关键的是:当每个单独项目都变容易,零散工作就不再是好研究。这里一篇论文,那里一篇论文,每篇自包含,要求读者自己拼起来——那是一个每块都昂贵的世界的格式。
困难没有消失,只是移动了。发论文不再难,难的是发布一个连贯的生态系统。
研究的单位是生态系统。
这就是开源周的目的。我和学生一开始就想构建互相增强而不是仅仅共存的组件,让每一块让下一块更有用。我的实验室相信用学术自由把最好的 AI 工具免费带给所有人,这是大学能独特做到的事。具体说,就是构建开放系统,让模型本地运行更便宜,让本地模型更强,构建在深度自主研究中复现前沿性能的本地系统,并为领域特定的强化学习环境创造新方法。
所有这些都位于三件事的交集:推理服务框架、agent harness 和 agent 工作,以及二者结合成自主研究系统。所有东西都必须易用,因为只有资深研究者能跑的开源不算开源。可及性有两半——所需资源和所需专业知识——硬件只能解决一半。几块 GPU 或一台 MacBook 可能就够。专业要求是设计问题,解决办法是抽象掉用户不必思考的技术细节。我们大部分努力都花在这里,在 agent harness 中最明显。
我不会在开源周开始前全部剧透,现在能说的是:如果你问一个小实验室今天能做什么,我们会展示三件事:前沿自主研究、我知道的最有效的测试时缩放,以及比 Claude Code 或 Codex 高效得多的自动压缩。
先从 harness 说起,因为它让其他东西可用。
你可能听过 agent 会话运行数小时、数天甚至数周。对大多数人,尤其没接触过 agent 的人,这怎么做到是个谜。你把 harness 指向一个仓库——比如带 CUDA 内核的推理框架——告诉它优化内核,然后离开。它在进展慢、工作令人沮丧的部分持续改进,直到你回来。过程中没有反馈,agent 必须在不清楚、不确定时自己搞明白。
我们对推理框架的 Mac 和 Metal 实现就是这么做的。一条命令让 agent 去改内核。回来的是 Qwen 3.6 35B-A3B 的量化推理,每秒 450 token,每权重 1.5 比特下仍有高质量输出。半精度模型每个权重需要 16 比特;1.5 比特下,同一模型内存约占十分之一,而且快到像本地进程,不像远程服务。
然后是标题里的主题:过去遥不可及的模型,装进你已有的硬件,会发生什么?
Qwen 3.8 27B 一直是流行的本地模型。我们的框架让你在单张 24 GB GPU 上跑更大的 Qwen 3.8 Flash Next 125B——那是普通台式机的卡。用 AMD Strix、NVIDIA DGX Spark 或 128 GB 内存的 MacBook,你可以跑 DeepSeek V4.1 550B。上下文长度也不用管:压缩和上下文处理是自动的,长上下文下推理仍然快。
接下来是我最兴奋的部分。
我们把这些组件组合起来,推进自主研究,途中构建了一种新的信息检索技术,精度是我没见过的。系统击败了前沿实验室的 deep research 系统,产生的自主研究结果也好于 Sakana AI 的系统或 Google 的 ScientistOne。它完全本地运行,完全不联网。
使用很简单。我说一个我做的实验。
我让 agent 在生物信息学领域找一个值得做的问题——因为我不太懂这个领域——标准很具体。进展要快,评估要便宜到能在现有硬件上跑,而且必须是新问题,过去四周有活跃研究,这样我们做的是领域还没定论的东西。agent 返回三个问题。我们取第一个,约两小时内,它建立了启发式方法的新下界,开发并测试了文献中最好的启发式方法,接近用 AI 模型训练的昂贵方法,还发现了所有人用来评估这个问题的数据源中的问题。我们没有在整体问题上达到 SOTA。但两小时工作、在我实验室的机器上,产生了四个结果,其中一个质疑整个领域依赖的评估数据。
这个系统不是博客文章里拿出来摆的 demo。我的学生每天用它。在它进入 harness 之前,它住在 Slack bot 里,并不稳定,有时会掉线。我没有邮件系统提醒我 Slack bot 离线,但有次好的东西:学生常写信给我,“Tim,Slack bot 又坏了,能帮忙吗?”在协作场景中,我录完会议后用它:从录音生成研究问题,对照文献评估讨论的想法,把有希望和没希望的方向分开,然后创建 Google Doc 发给学生。我做了两次。学生喜欢,但流程里需要我手动复制粘贴两块,太麻烦,就停了。接下来两次会议我没用——然后学生带着期待问我能不能再用,因为他们觉得这有助于理解自己的研究。
那是我唯一信任的研究工具评估:你停止提供之后,人们还想要它。
最后一块是我们用得最多、谈得最少的:对话本该结束后,怎么让 agent 继续工作?
我们的答案是一种自动压缩技术,叫 CliffCompaction。我们在实验室用了几个月,我不想在没有它的情况下跑 agent。它比 Claude Code 或 Codex 的自动压缩强得多。用它,会话可以运行数百万 token,我有些超过一亿。它还把总成本降低约 50%。一个合作伙伴在公司内部部署后,测得 AI 总预算减少 45%——几乎一半的 AI 支出消失,而没有放弃什么。在 KernelBench 上它达到 SOTA,大幅击败远比我们复杂的方法,包括 AlphaEvolve 式方法和分层记忆系统。我们会发布一个强版本。下一代自动压缩我们已经用了一部分,更好。
它同时移动成本/能力权衡的两边:会话更长,账单更小。换句话说,agent 不再忘记它在做什么,你也不再为遗忘付费。
长会话,低账单。
这就说到测试时缩放,因为它来自同一个技巧。自动压缩省约 50%,你可以把省下的再投资:同样预算,不买一次 rollout,而是买好几次。我们发现了第一个实用方法,把多个 rollout 在相同成本下变成显著提升。它对日常工程工作还不实用,但跃迁到那一步不会难。结合常常未被充分利用的本地部署,我们相信这会带来一个未来:任何人都能对任何单个问题跑多个并行 agent。
为什么悲观是错的
那为什么 150 名学生里有 120 人害怕?
三件事同时发生,只有一件关于 AI。第一,相信 AI 会抢走所有人的工作。第二,对 AI 对工作的影响理解很差。第三,传染:自败的想法人传人,一屋子听过同一句悲观话十遍的人,会举出第十一只手。
先看 AI 对工作的影响,因为这是可以推理的部分。
从所有人以为会最先消失的职业开始。预测是软件工程师先失业,但近期趋势相反:软件工程师需求比以往更高。一个有好的 agent 的软件工程师能更高效地生产新产品、维护现有系统并扩展它们,公司每花一美元得到更多价值。工作要求变了:需要强 agent 技能,往往还需要比以前更深的专业化——“软件工程师”这个工作不再存在。两者现在都可达到:agent 技能随时间积累,深度专业化过去要多年,现在用 agent 很快。
我们生活在一个增量改进的经济里。下一部手机不比上一部好多少;改进真实但小,而且一年比一年难注意。许多服务也同样趋同。Lyft 或 Uber 的一程和过去没有根本不同,可能永远也不会,因为没多少可改。同一件东西只能稍微改进有限次,然后有人就不再为下一版付钱。
进步有两种形式,行为完全不同:改善和能力。改善让你已有的东西稍好;能力给你完全没有过的东西。一个只生产前者的经济有天花板,无论里面的人多努力。技术带来第二种时,事情就变了。
自动驾驶是明显例子,有趣的是它会多不均衡地到来。欧洲或亚洲的复杂驾驶还要几十年。但在网格状、交通守规矩的地方——美国很多地方——它会早得多实现,并在未来二十年改变很多。机器人可能类似:家用机器人会像洗衣机一样释放工作,而释放工作的重点不是工作,是你能因此过的生活。
同样的逻辑适用于你口袋里的设备。下一部手机可能不会快多少,因为芯片不再快多少。它可能是一个非常不同的设备。
再说人们常拿来证明 AI 让产品变坏的情况,因为它值得听。现在已是陈词滥调:硬塞进去的 AI 毁掉被塞入产品的体验,微软产品里的 AI 功能几乎普遍被严重讨厌。我认为这反应正确,但它是对整合的判决,不是对技术的判决。设计良好的 AI 体验会改变你如何互动、如何工作、如何安排一天。那版本存在,在做得好的地方你能感觉到。ChatGPT 是主要例子。
ChatGPT 在美国大众中的采用一直慢。但人们会赶上,而且一旦赶上,它带来的不是小差别,是结构性差别。我们生产知识和消费知识的方式会被永久改变。
这会带来动荡和复杂,我不想假装不是。但动荡不是故事的终点。对新体验和新产品的需求驱动收入,收入驱动招聘,招聘就是人们说的工作安全。悲观的读法停在动荡,忘了之后的一切。
放下工作方式,而不是放下你是谁
未来是一场剧变,对很多人会震惊、失望、幻灭。但它不必如此。
你现在最该做的是放下。放下做事的方式。放下被教会的顺序:先学基础,再学一般方法,最后解决问题。放下你的价值储存在已学东西里的想法,因为你学会的工具正在你使用时被重写。
放下做事方式不等于放下自己,这个区别就是全部。身份必须保持笔直:你做什么可以商量,你是谁不可以。我们每个人做事,为了投入和享受生活;生活变了,度过每一天的方式也跟着变——换工作、组建家庭,或许多别的事。但人会保持贴近自己的性格——不是被困住,是因为喜欢。那就是他们是谁。我们都有缺陷,都会爱某个人,都认为某些事对自己和他人重要。技术碰不到这些。一旦你在“你是谁”上坚定,其他一切都可以商量,而能商量一切,才能快速适应接下来发生的事。
实践中,放下是什么样?
如果你是学者,必须放下论文。不是不写,不是不关心——论文仍是我们沟通的方式。要放下的是论文作为成就单位、被计数和比较的东西。如果生态系统是研究单位,那么构建别人能在此基础上继续的东西,必须比下一个增量更重要。
如果你是学生,必须放下“先获取技能和基本知识,再解决问题”的想法。顺序反转。在学徒制中——博士最好的时候就是学徒制——你不是读教科书以便以后解题。你先附上问题,边做边学,建立理解和直觉,把注意力花在困难部分,而不是现在能查到的部分。
困难问题会比以往更常见。不是因为世界更难,而是因为所有不困难的事都会被自动化掉。重要的技能是博士教而几乎别处不教的:坚持一个不屈服的问题。
那才是值得投资的技能。
研究将是什么样,如何为此训练?
如果 agents 这样改变研究,那从现在起研究是什么样,我们该怎么训练学生?
我想这个问题约一年了,没有干净答案,但渐渐清楚。开始教职后责任比博士生多,深入一门技能再交给学生的空间更少。我决定忽略一些东西来腾时间:自己与 agent 工作,搞清楚用 agent 做研究该是什么样,什么让它真正高产。这个取舍我一直在做。
一年后,博士生工作的某些方式出现了。学生应以生态系统为工作单位。学生应并行做多个项目。学生应先攻击问题、边做边理解。
我正在为下周设计 CMU 的四周短课程,下学期开完整课程,目标是把整套放到 YouTube,让任何人建立这些 agent 技能。
有了正确的 agent 技能,未来不黯淡,反而令人兴奋。过渡期存在,我不假装舒服,但一旦过去,可能性无穷。不是所有兴奋都成立:用 agent 的头几周,几乎没有一个成立。真实的东西来得晚一些,等你对 agent 实际能产出什么有了清醒理解。从那里开始,兴奋成立,并变成研究的快速进展。
开源周就是这种进展的样子。
复兴在学术界
那该在哪里做这些工作?
我的答案是:大学实验室,而且比你想的快。
理由就是我开头说的。Agents 让你找到并研究不需要很多资源、影响却巨大的问题。那个空间——攻击成本低、解决价值高的问题——非常广阔,而且完全无人竞争,因为有资源的人都在别处竞争:规模、需要数千 GPU 的问题、只有最大实验室能尝试的东西。小实验室有的是创造力、时间,以及研究前沿实验室不能研究的问题的自由。这是另一种优势,不是所有人都在追的那种。
开源周就是我们尝试展示相信这个故事时能做什么。我觉得我们做得不错。和学生们一起做所有这些非常有趣。我们是个小实验室,只有几块 GPU。开源周推迟一天(还在完成那份草稿),但从明天起,我们会发布两个开源项目和四篇论文。重点是它们一起到达,作为一个包,每一块让其他块更有用。
这不是计划出来的。这一周能成形,是因为我和学生想要同一件事:为开源做贡献,构建人们能用的东西——不一定是产品,虽然有些是研究产品,而是以前不存在的新知识和技术。我四周前就想发布。学生项目完成一个多月了,他们耐心等待,让我们以生态系统而不是几周分散公告的方式发布。把所有东西凑在一起比我预想的压倒得多——协调六个发布和研究是不同技能,我没练过。希望值得。
如果成功,研究的可及性会达到以前没有的水平,并证明一件我认为学生现在急需听到的事:几个人、几块 GPU,能构建与前沿竞争的系统。复兴不需要任何人的许可。你可以直接做事情。
下次我问 150 名学生谁害怕找不到工作,我希望举手的人更少。工作在那里。学术界的未来非常明亮,我期待未来几年。
评论
多数读者质疑该文是由大语言模型生成的粗制滥造之作且缺乏逻辑证据,并反驳作者对就业市场的盲目乐观;少数人赞同文中关于学术界应超越论文中心、学习顺序应颠倒的局部观点。
认为文章是缺乏证据且由大语言模型粗制滥造的废品
- 多名读者指出文章存在逻辑跳跃、无数据支撑,读起来像 AI 幻觉或粗制滥造的垃圾,教授不加编辑地使用生成文本反而损害说服力(较多人)
- 引用: > 从“怕毕业即失业”直接跳到“不相信未来有自己位置”太离谱,文章明显是模型写的,我不久便弃读(@AnodicElegy)
反驳作者“软件工程师需求空前高”并认同学生就业焦虑
- 读者用劳动力数据指出软件工程市场自2022年持续恶化,计算机毕业生失业率居前,无切身体会的成年人无权轻率否定学生担忧(较多人)
- 引用: > 作者称软件工程师需求比以往更高纯属无稽之谈,近年就业市场各项指标逐年走低(@JSavageOne)
认为工业界创新领先根源不在学术缺显卡而在产业动机
- 在读研究生证实博士生急于离开学术界的情绪真实,认为核心在于重要创新确由工业界产出(如推理优化能省巨资),且顶会评审质量崩坏使激进想法难发表(较多人)
- 引用: > 前沿实验室和大型云厂商有最强动机解决真实问题,实习时与业内人士交流也更容易追上飞速发展的领域(@emulbasaka)
赞同以生态系统和可构建性替代论文作为学术标准
- 部分读者呼应原文“论文不应再是成就计量单位”,认为以构建可复用系统为荣的工程文化值得珍视,但也有人指出学者既得利益使体制难改(较多人)
- 引用: > 以“做出来东西”而非纸面增量作为成就标尺,正是多年前在卡内基梅隆让人享受科研的原因(@wrs)
认为 AI 揭示高收入职业脆弱性并加剧 K 型经济消费萎缩
- 有读者长篇分析称 AI 不仅施压知识工资溢价,更因中产变穷削减信息技术非必需开支,使“产品-收入-就业”循环弱化,认为作者过于乐观(少数人)
- 引用: > 早在 AI 前我们就产能过剩,如今迈向爆炸式生产,但产能扩张远快于人类消费能力,生产力本身解不了循环断裂(@jdw64)
认可“先解决问题再补技能”的顺序颠倒
- 有读者简洁表态高度认同原文中放弃先习技能后解决问题的旧观念,认为实践应跑在基础学习前面(少数人)
有价值的补充
- 某硬件公司的公开设计文档被举为范例,显示业界在开源宣传上的沟通分寸优于该教授的生成式博文,折射出工业界对社群的尊重。
- 分析指出即便能力相当,雇主仍倾向聘用有学位者,大学将日益变为基于校友网络的精英俱乐部与信任中介,这是 AI 时代大学反而重要的反直觉逻辑。