三星在Hot Chips 2026上展示了其Processing-in-Memory（PIM）技术，通过在LPDDR5X芯片内集成MAC单元实现存内计算，利用内存内部高带宽并缩短延迟，同时保持与标准内存控制器的兼容性。

在Hot Chips 2026大会上，三星展示了其持续推动的内存计算技术——LPDDR5X-PIM（处理中内存）。该技术通过在LPDDR5X芯片内部集成MAC单元，利用内存芯片内部的高带宽优势，同时保持与标准内存控制器的兼容性。传统DRAM访问受限于外部接口带宽，而PIM在每个存储库（bank）内放置计算模块，使16个库能同时利用内部带宽，达到614 GB/s，远超常规DRAM的76.8 GB/s。

PIM模块包含MAC树、寄存器文件和控制器，支持多种低精度格式（如INT8、FP8），每个模块每数据时钟可执行4次MAC操作，4位输入权重时吞吐量翻倍，整包计算能力达2.4 TOPS。虽然单芯片性能不高，但多芯片组合（如8颗LPDDR5X）可提供9.6 INT8 TOPS，接近英特尔Meteor Lake的NPU，但成本较高。

三星通过特殊行地址实现PIM模式切换，无需修改标准LPDDR5X协议。芯片支持单库和多库模式，多库模式下命令广播至所有16个库，实现类似SIMD的并行计算。软件需先加载模型权重到DRAM，再通过特殊命令写入激活值、缩放因子和操作指令，最后通过读取命令触发计算并将结果写回DRAM。

然而，PIM面临软件挑战：PIM模式改变DRAM命令含义，无法与常规内存访问同时进行，需隔离PIM内存区域，但会牺牲带宽和性能。多任务环境下，PIM线程需锁定访问，操作系统处理中断或上下文切换时需保存PIM状态，导致复杂性增加。此外，PIM计算会破坏缓存一致性，需将PIM内存映射为不可缓存，并禁用推测执行和预取，严重影响CPU性能。

三星的LPDDR5X-PIM理论上可应用于服务器、桌面、笔记本甚至移动设备，但实际使用需解决多任务、缓存和推测执行等问题。文章建议通过扩展DRAM接口、增加缓存一致性支持和新CPU指令来简化软件适配，避免内存预留和线程阻塞带来的性能权衡。

根据评论内容，总结如下：

主要观点与论据：

1. 技术潜力与历史回顾

   • 评论1（reliabilityguy）认可三星PIM技术的延续性，但质疑其“杀手级应用”缺失，认为缺乏应用场景将阻碍普及。
     "I am not sure what’s the killer application for this technology, and without such application adoption is unlikely."
   • 评论6（pragmax）指出PIM类似1980年代ISA扩展RAM的“卡上计算机”概念，认为技术发展具有周期性。
     *"It _almost resembles where we were with ISA-based extended RAM back in the 1980's... this goes to show how cyclic tech can be."*

2. 性能与架构限制

   • 评论7（mr_toad）强调PIM块间无法直接交换数据，需通过主机移动数据，若权重无法存入单bank则性能损失显著。
     "If you can’t fit the weights of a layer into one bank then presumably you lose a lot of the speed gains."
   • 评论8（londons_explore）认为矩阵乘法需大量数据移动，PIM未解决核心瓶颈，乘法运算本身能耗和面积占比小。
     "Movement is the main thing - the multiplication and addition is a sideshow... You need a 'around the chip' ring shift register."

3. 应用场景与可行性

   • 评论4（saejox）提出若64GB内存条能运行32B模型达30tps，则具备市场潜力。
     "If we could buy a 64gb stick and run a 32b model with 30tps on it. This could sell."
   • 评论9（ginko）建议将PIM作为网络加速器，用RTOS从CPU缓存运行，PIM仅用于计算。
     "Set up some barebones RTOS to run from CPU cache with the PIM memory being used for compute only."

4. 能耗与安全性担忧

   • 评论10（plywoodShadow）质疑PIM是否需要主动散热。
     "Wouldn't active cooling be needed for RAM as well as for CPU and GPU?"
   • 评论11（krater23）警告PIM可能带来新的安全风险。
     "Self changing RAM and a complex way to interact with it in software. A new security nightmare is emerging."

5. 行业影响与反思

   • 评论13（harshaw）指出AI数据中心建设热潮可能因PIM等优化技术而减少需求，但此观点未被充分讨论。
     "There is a set of optimizations like this one... that would someone negate the buildout. But it's not really discussed."

平衡性总结：
评论对PIM技术持审慎乐观态度：认可其历史延续性和潜在应用（如大模型推理），但普遍质疑其架构限制（数据移动瓶颈、bank容量）、缺乏明确杀手级应用，并担忧能耗与安全性。部分评论认为PIM可能颠覆现有计算范式，但需解决实际工程挑战。