该项目CUDA-L2通过强化学习优化矩阵乘法运算，性能超越了NVIDIA的cuBLAS库。该技术展示了AI在底层计算优化中的潜力，能够提升GPU计算效率。

GitHub项目：CUDA-L2 - 通过强化学习超越cuBLAS的矩阵乘法性能

项目简介 CUDA-L2是一个结合大型语言模型(LLM)和强化学习(RL)的系统，用于自动优化半精度通用矩阵乘法(HGEMM)的CUDA内核。该系统在矩阵乘法性能上超越了当前主流基准，包括广泛使用的torch.matmul和NVIDIA的闭源库(cuBLAS、cuBLASLt-heuristic、cuBLASLt-AutoTuning)。

核心特点 - 在A100 GPU上对1000种(M,N,K)配置进行了优化 - 提供比torch.matmul平均1.5倍、比cuBLAS平均1.2倍的加速 - 支持SM8016x8x16F16F16F16F16架构（16位累加器）

最新动态 - 2025年12月2日：发布了针对A100优化的HGEMM内核

技术细节 1. 依赖环境： - Python环境 - PyTorch 2.6.0+ - 需要特定版本(v4.2.1)的NVIDIA CUTLASS库

2. 安装步骤： shell git clone -b v4.2.1 https://github.com/NVIDIA/cutlass.git cutlass export CUTLASS_DIR=/path/to/cutlass export TORCH_CUDA_ARCH_LIST="8.0" # 针对A100架构

3. 使用方法：

   • 离线模式示例： shell ./eval_one_file.sh --mnk 64_4096_64 --warmup_seconds 5 --benchmark_seconds 10 --gpu_device_id 7 --mode offline

未来计划 - 扩展支持32位累加器版本 - 增加更多矩阵配置支持 - 适配更多GPU架构(Ada Lovelace/Hopper/Blackwell)

常见问题 - Q：A100优化的内核能否用于RTX 3090或H100？ A：建议仅用于A100，其他设备不保证加速效果 - Q：如需未包含的矩阵尺寸怎么办？ A：1) 使用最接近的配置并补零 2) 可通过GitHub issues提交需求

项目状态 - 许可协议：MIT - GitHub数据：98星标，7个分支 - 开发语言：99.6% CUDA

联系方式 - 邮箱：jiwei_li@deep-reinforce.com - 建议通过GitHub issues提交问题

（注：原文中大量GitHub界面导航元素、重复内容和格式代码已被精简，保留了核心的技术信息和项目说明）

这篇评论总结包含三个主要观点：

1. 关于算法输入精度的质疑

• "Am I reading this wrong, or does this only support FP16 inputs, and compares its performance against an FP32 solver?"（stonogo）
• 认为论文可能将FP16输入与FP32求解器进行不公平比较

2. 关于方法创新性的争议

• "They claim the algorithm 'discovered' the new techniques, but the methods described in section 5 do not seem all that novel to me"（j2kun）
• "It smells like it could be 'laundering' the literature and reshuffling existing techniques"（j2kun）
• 质疑论文声称的"发现"实际上是现有技术的重组

3. 关于图表呈现的困惑

• "The chart confused me because I expected to see performance numbers of CUDA-L2 compared to the others"（alyxya）
• "0% on the bar chart would only mean equal performance"（alyxya）
• 认为图表展示方式（速度提升百分比）容易造成误解，不如直接展示性能数据直观