文章摘要
该文章介绍了如何在NVIDIA DGX Spark及Asus Ascent GX10上使用Nix或安装NixOS,提供了USB镜像和NixOS模块,并说明了在DGX OS(Ubuntu)上使用Nix的安装步骤、配置要求及运行CUDA应用时需借助nix-gl-host的注意事项。
文章总结
本文介绍了如何在NVIDIA DGX Spark(以及华硕Ascent GX10)上使用Nix和NixOS。主要内容包括:
在DGX OS(Ubuntu)上使用Nix:无需安装NixOS即可使用本仓库的开发环境和playbook。安装Nix后需启用flakes和nix-command功能,并配置缓存。
非NixOS系统运行注意事项:Nix构建的CUDA应用需要nix-gl-host来访问主机GPU驱动,playbook的开发环境会自动处理此问题。
在DGX Spark上安装NixOS:
- 需先更新固件(仅DGX OS可从出厂固件启动)
- 提供USB启动镜像,包含两个内核选项:NVIDIA专用内核(默认,支持完整GPU和以太网)和标准NixOS内核(以太网有问题)
- 需在BIOS中禁用安全启动
DGX Spark模块:提供可配置的硬件支持,包括内核选择、DGX Dashboard网页界面(端口11000)等。内核配置基于NVIDIA的Debian注释生成,仅包含与NixOS默认配置不同的选项。
快速开始模板:提供完整的NixOS配置模板,包含flake.nix、configuration.nix和hardware-configuration.nix,可快速部署。
固件更新:通过fwupd从Linux Vendor Firmware Service获取NVIDIA发布的固件更新。
缓存配置:推荐使用Flox CUDA二进制缓存(自动配置)和graham33 Cachix缓存。
远程安装:支持通过nixos-anywhere远程安装NixOS,适合无头设置。
许可证:MIT许可证。
评论总结
根据评论内容,总结如下:
主要观点与论据:
高度认可与感谢(多数评论,评分均为None但态度积极):
- 用户普遍对该项目表示赞赏,认为其有效解决了管理DGX Spark、Jetson等AI硬件的问题。
- 关键引用:nixie-tubes:"This has been amazingly helpful for managing my DGX Spark!";redrove:"Been running this on a few Asus GX10 machines with k3s on top, it’s been great."
实际应用与扩展:
- 有用户已在多台设备上部署,并提及运行新模型(如deepseek)。
- 关键引用:redrove:"I’m running the new deepseek.";thenobsta:"I have a Jetson lying around... use it to play with vision models... wanting a better way to manage the machine."
技术生态关联:
- 评论5推荐了Nix/CUDA/Flox相关案例,强调该领域的技术整合价值。
- 关键引用:ronef:"Huge plus to anyone interested in the space to check out what Graham built here!";"deploying hardened Flox Nvidia CUDA stacks in minutes not hours."
AI辅助Nix开发:
- 评论6指出Claude Code等AI工具对Nix语言开发有显著帮助,可降低学习门槛。
- 关键引用:hamandcheese:"Claude Code... are incredibly effective at Nix. It can trivially self-verify... perfect match for an LLM."
相关项目参考:
- 评论7提到microvm.nix项目,支持Firecracker沙箱,可构建完整AI工作流。
- 关键引用:mkagenius:"There is also a microvm.nix project which helped us support sandboxes with firecracker."
平衡性说明:所有评论均为正面反馈,无负面观点。主要差异在于应用场景(管理硬件、运行模型、技术整合)和工具推荐(Flox、AI辅助、microvm.nix)。