文章摘要
AMD收购AI芯片初创公司Taalas,后者将模型权重直接蚀刻到硅片中,可将推理性能提升一个数量级。此举旨在挑战英伟达在AI硬件领域的主导地位,提供更快、更便宜的高性能推理服务。交易细节未披露。
文章总结
AMD收购AI芯片初创公司Taalas,旨在通过将模型权重直接蚀刻到硅片中,将推理性能提升一个数量级或更多。这笔交易于2026年8月6日市场收盘时宣布,与英伟达去年12月以200亿美元授权Groq类似,目标是让高性能推理服务(如代码助手)运行更快、成本更低。AMD未披露交易条款,但确认是实际收购而非人才收购。
Taalas成立于2023年,总部位于多伦多,其芯片设计与传统GPU或数据流架构截然不同。它不依赖HBM存储模型权重,而是直接蚀刻到硅中,形成模型专用集成电路(MSIC)。2026年2月,Taalas展示了首款测试芯片HC1,采用台积电6nm工艺,在Meta的Llama 3.1 8B模型上达到每秒16,960个token,比英伟达GPU快48倍,比Cerebras加速器快8.5倍。尽管Llama 3.1已显过时,但该芯片主要用于概念验证。
Taalas芯片由两个主要区域组成:掩模ROM召回结构(蚀刻模型权重)和SRAM召回结构(存储KV缓存和微调适配器)。第二代HC2芯片计划于2026年夏季推出,参数容量提升至200亿。对于更大模型,权重可通过流水线并行分布在多个加速器上。例如,支持万亿参数模型仅需50个HC2加速器,而AMD的机架级计算平台和内部系统设计团队可轻松满足这一需求,比英伟达LPX系统更节省空间和功耗。
AMD计划将基于Taalas技术的芯片与Instinct Helios机架配对,采用解耦架构:GPU处理计算密集型提示处理,Taalas加速器负责token生成。另一种可能是采用“滴答-滴答”节奏,客户先在Instinct加速器上部署和验证模型,满意后再迁移至Taalas加速器。AMD AI高级副总裁Vamsi Boppana表示:“AMD正在构建全栈AI平台,为客户提供针对每种AI工作负载的灵活计算解决方案。”
然而,该技术存在显著缺点:一旦芯片部署,模型便固定不变。任何超出LoRA适配器范围的更改都需要重新设计芯片,成本高且耗时。但Taalas声称,新模型只需更改两层金属,而非从头开始,成本和时间大幅降低。该技术预计主要部署于AI模型开发者、基础设施提供商和少数推理服务商。Taalas指出,将模型权重蚀刻到硅中的成本比训练前沿模型低100倍。
AMD具备谈判优势,因为OpenAI、Anthropic和Meta都是其主要Instinct客户。鉴于模型公司与芯片设计商的紧密合作,GPT或Claude可能部署在Taalas和Instinct加速器组合上。该技术还对模型开发有影响:测试时缩放技术通过延长模型“思考”时间来减少幻觉,但消耗更多token且成本高昂。如果AMD的收购能将每token成本降低10倍或20倍,模型开发者可能进一步延长推理时间。该交易预计在第四季度完成,需经监管批准。
评论总结
根据评论内容,总结主要观点如下:
1. 对硬件未能面世的遗憾与期待 - 评论1:期待看到硬件产品问世("Really hoped to see their hw out in the wild one day") - 评论2:批评未给硬件发布机会("Didn't even give them a chance to launch the hardware") - 评论4:认为梦想破灭,但预测未来可在二手市场低价购得("Well so much for that dream... pick these up ex-enterprise on ebay for under $5k")
2. 对技术路线的认可与讨论 - 评论3:肯定设计思路,认为无需全新架构即可提升性能("doesn't take an entirely new architecture... to produce significant performance improvement") - 评论8:认为SOTA模型架构趋同,未来可能出现基础模型ASIC+物理LoRA适配器("base model ASIC + 'fine tune' card") - 评论10:以自身AMD硬件实现为例,支持“单流解码受带宽限制”的论点("single-stream decode is bandwidth bound, so stop fetching weights from far away")
3. 对商业前景与适用场景的分析 - 评论6:认为这是双赢,团队获得回报,优秀架构有望落地("win-win... best ideas... see the light of day in actual products") - 评论13:惊讶OpenAI/Anthropic未先行动,认为将模型固化到硅片是建立护城河的逻辑步骤("Baking models onto silicon would've been the next logical move to get a moat") - 评论17:指出对前沿公司意义有限,但对需要私有化部署的企业场景极具价值("not going to make much sense for frontier companies... but for a lot of business use cases... it would make so much sense")
4. 对技术局限与迭代的质疑 - 评论15:关注经济性和周转时间,担忧模型可能过时("turnaround time mean the model is always too out of date") - 评论16:质疑若新模型发布,芯片是否需重新设计("What will be if new model released? New chips?") - 评论14:想象蚀刻大模型(如Qwen 3.6 27B)所需芯片尺寸("Imagine the size of chip needed to 'etch' something like Qwen 3.6 27B")