在已破解的 PS5 上，PS5LM 让主机运行语言模型，供网络中所有设备使用：它通过 llama.cpp 在主机 GPU 上加载 GGUF 模型，并提供 OpenAI 与 Anthropic 接口及为电视设计的界面，让笔记本、手机和编程工具都能调用。它新增由 Ollaya 驱动的决策模型，在 GPU 上运行 d1、Clef、OpenJev 等模型，并回应与 Ollaya 相同的 /v1/systemone 接口，输出带校准概率的类型化决策，耗时不到一秒；这套本地服务运行时不需要 PC、云和账号。
正文
你的 PS5 在本地运行语言模型，局域网里的每台设备都能使用它。 llama.cpp 跑在主机 GPU 上，提供 OpenAI 和 Anthropic API，还有一个为电视设计的界面。
新功能：由 Ollaya 支持的决策模型。 PS5LM 现在能在 GPU 上运行 Jev 类决策模型（d1、Clef、OpenJev 等），并响应与 Ollaya 相同的
/v1/systemoneAPI：在零点几秒内返回带校准概率的类型化决策。
PS5LM 面向所有拥有已破解 PS5、想在家里搭一个私有模型服务器的人。它把 GGUF 模型加载到主机 GPU 上，为你的笔记本、手机和编程工具提供服务。运行时不需要 PC，不需要云，也不需要账号。
电视下的模型服务器
- 它在 GPU 上运行。 llama.cpp 的 Vulkan 后端跑在主机 RDNA 2 GPU 上，11.4 GB 共享内存用于模型和上下文。llama.cpp 支持的每种架构和量化方式都一并带来。
- 它接入你的网络。 提供 OpenAI 的
/v1/chat/completions、Anthropic 的/v1/messages（Claude Code 可对接），以及任意浏览器里的聊天页面。把客户端指向http://<console>:8081，使用任意模型名：实际回答的是已加载的那个模型。 - 它也能做决策。 加载决策模型后，主机还会响应 TypeSafe 的
/v1/systemone：针对文本和图片的选择、打分以及是否类问题，也就是 Ollaya 在 PC 上提供的 API。 - 它展示工作过程。 每个请求都会像聊天一样在电视上实时滚动：哪个设备提问、问了什么，以及回复逐字生成的过程。按 Square 键发送演示请求，按 Triangle 键打开键盘，这样坐在沙发上就能试用主机。
- 它监控主机状态。 控制台页面会用图表展示最近两分钟或最近一小时内的温度、功耗、GPU 和 CPU 负载，旁边还有记录每次读数的表格。
- 它挑选合适的模型。 规划器会读取每个 GGUF，并为其分配空闲内存能容纳的最长上下文和最佳缓存。推荐列表里是在主机上实测过的模型，应用会自行从 Hugging Face 下载到内置存储、M.2 硬盘或 U 盘。
- 它能读取图片。 带有图像投影器的模型（Gemma 4、MiniCPM-V、d1）可以在聊天和决策中接收图片。
| 模型 | 大小 | 在 PS5 Slim 上 | | --- | --- | --- | | Qwen 3.5 0.8B, Q4KM | 0.5 GB | 每秒 207 个 token | | Qwen 3.5 9B, Q4KM | 5.3 GB | 每秒 55 个 token | | Qwen 3.8 27B, UD-Q2KXL | 9.2 GB | 每秒约 20 个 token，64k 上下文 | | d1 Omni 600M，决策模型 | 1.1 GB | 0.3 秒回答 3 个问题；一张 720p 图片加 7 个问题用时 2.9 秒 |
由 Ollaya 支持的决策模型
Ollaya 在 PC 上运行开源决策模型，就像 Ollama 运行语言模型一样。PS5LM 把同样的思路带到主机上：决策模型读取一个状态，并在一次前向传播中回答带类型的问题，不生成任何文本。
curl http://
推荐列表里有 d1 Omni 600M、d1 3B 和 Clef Flash。任何带有 llama.cpp 决策元数据的 GGUF 都以相同方式加载，应用会将其标记为决策模型。
试试看
你需要一台固件版本在 7.00 到 13.60 之间、已破解并加载了以下 payload 的 PS5：
| Payload | 用途 | |
| --- | --- | --- |
| kstuff-lite | homebrew 运行所依赖的内核补丁 | 必需 |
| etaHEN | homebrew 支持 | 必需 |
| ShadowMountPlus | 从 /data/homebrew 把 PS5LM 放到主屏幕 | 必需 |
| elfldr（端口 9021） | 通过 ps5-exporter 提供温度、功耗和真实剩余空间 | 推荐 |
| ftpsrv（端口 2121） | 安装应用、从 PC 复制模型 | 推荐 |
- 从最新发布页下载
ps5lm-app-vX.Y.Z.zip并解压。 - 通过 FTP 把
PPSA99575文件夹复制到/data/homebrew。ShadowMountPlus 会把 PS5LM 添加到主屏幕。 - 打开 PS5LM，进入 Models > Suggested（模型 > 推荐）获取一个模型。或者把
.gguf文件复制到/data/PS5LM/models，或 U 盘里的PS5LM/models。 - 加载模型。当主页显示 Ready 后，在浏览器打开
http://<console>:8081，或把你的 OpenAI / Anthropic 客户端指向该地址。
更新时，用新文件夹覆盖旧文件夹即可。设置、模型和下载内容都保留在 /data/PS5LM。在编程工具（opencode、Codex、Claude Code）中的使用方法见 docs/CLI.md。
| 位置 | 按键 | 功能 | | --- | --- | --- | | 所有页面 | L1 / R1 | 在 Home、Models、API、Console、Settings 之间切换 | | Home | Cross 键 | 更换模型 | | Home | Square 键 / Triangle 键 | 发送演示请求 / 输入消息 | | Models | 方向键、Cross 键 | 选择分区和模型；加载、卸载或下载模型 | | Models，搜索 | L2 / R2、Square 键 | 修改搜索条件；检查文件是否放得下 | | Models，下载 | Cross 键、Square 键 | 暂停或继续；取消（按两次）或清除 | | Console | L2 / R2 | 查看最近两分钟 / 最近一小时 | | Settings | 方向键、Cross 键 | 选择分类和某一行；切换开关，或从列表中选择 | | Settings，诊断 | Square 键、Triangle 键 | 查看应用或服务器日志；只看错误 |
想自己折腾？
使用 ps5-homebrew-ui 的 C++ 开发，llama.cpp 搭配 ggml-vulkan，运行在 PS5_Vulkan 的 RADV 上，在 Linux 上构建。
评论
讨论气氛兴奋中带着调侃，分歧主轴是 PS5 跑大模型究竟是低成本常驻推理的实用方案还是受限于显存的极客炫技：较多人看好其在无 GPU 或长期任务中的潜力，少数人认为量化后能力不足、基本无用。
认为PS5是低成本常驻推理与游戏落地的实用选择
- 11.4G共享内存在没有GPU时也能跑出有趣结果，且PS5功耗很低：即便只能运行2比特量化的模型，对只需要持续输出略低于平均智能的长期任务（如监控服务器错误率、查看安防视频、控制浇水）依然划算，一天约0.7美元电费就能产出约200万token；把被锁死的主机改成通用计算机的魅力甚至让人想买PS5，也有人由此看好LLM驱动的NPC会成为游戏标配（较多人） > 虽然只能跑2比特量化的Qwen 3.8 27B模型，但对只需要持续输出略低于平均水平智能的任务来说依然非常可行，一天约0.7美元电费就能产出约200万token，适合监控服务器错误、查看安防录像、看护植物生长等长期任务（@jjcm）
认为受限于显存与量化，实际基本无用且README夸大
- 承认移植本身很酷，但受限于VRAM，整体没什么实用价值，README把它包装得像真能日常使用，实际上只是“做到跑起来”的极客成就；还有人提问它相比Codex或Claude大概会慢很多、能力弱很多，凸显对能力被高估的怀疑（少数人） > 这事儿挺酷，但受显存限制基本没什么用；README把它包装得好像真能日常使用，其实只是“把它跑起来”的极客成就（@hypfer）
担心索尼会随时要求项目下架，不应把GitHub作为主站
- 项目主站不应放在GitHub，因为PS5并非历史古董，索尼可能随时要求页面下架；这类项目应优先选不受公司治理倾向影响的托管，自定义域名是首要要求（少数人）
调侃下一步连烤箱都要跑大模型
- 顺着“PS5都跑上大模型”的荒诞感，有人开玩笑说接下来就轮到烤箱了，体现社区对本地大模型扩散到各种家电的调侃情绪（少数人）
有价值的补充
- 类似玩法早有先例：有人贴出PlayStation 3 cluster的维基资料，提醒当年就有人用PS3搭建集群做计算。
- 该方案理论上也能用在BC250加速卡上：这类卡是围绕AMD“Cyan Skillfish”APU打造的退役加密挖矿主板，而该APU是PS5定制芯片的精简版，目前在eBay上约150到200美元还能买到。