Hacker News 中文摘要

RSS订阅

同一Three.js任务实测10种模型/框架组合 -- I tested 10 model/harness combinations on the same Three.js task

一直在测试简单提示词与不同模型及 harness 组合以找出最佳结果,于 /goal 模式进行。提示词要求建单页网页3D库(Three.js)科幻机库,含悬浮无人机、动画警告灯、发光跑道条与体积雾平面,含编队切换及电影相机路径,输出自包含 HTML。表格记录通用语言模型(GLM 5.3 Flash Max)与代码模型(Codex)等组合的耗时令牌。

正文

我一直在 /goal 模式下,用同一个简短 Prompt 搭配不同的模型和 harness 组合跑测试,想找出效果最好的一组。

Prompt:做一个单页 Three.js 科幻机库,里面有悬停无人机、动态警示灯、自发光的跑道灯带、淡淡的体积雾式雾面;还要支持无人机编队切换和电影感相机路径;最后输出成一个自包含 HTML 文件,JavaScript 全部内联。

结果如下:

| 模型 | Harness | 运行结果 | 页面 | | --- | --- | --- | --- | | GLM 5.3 Flash Max | Codex | 总耗时 9 分 0.232 秒 · 9.344 秒 · 输入 457,685 · 输出 17,458(其中推理 7,694) · 总计 475,143 · 85.26% · 工具调用 14 · 失败 1 · Blocked · No | 打开 | | Luna 5.6 Max | Codex | 总耗时 9 分 13.098 秒 · 6.199 秒 · 输入 1,146,755 · 输出 25,512(其中推理 6,879) · 总计 1,172,267 · 92.76% · 工具调用 32 · 失败 2 · Yes · Yes | 打开 | | SOL 5.6 Max | Codex | 总耗时 10 分 48.765 秒 · 8.460 秒 · 输入 1,069,163 · 输出 28,278(其中推理 7,515) · 总计 1,097,441 · 94.60% · 工具调用 21 · 失败 5 · No · No | 打开 | | Astra 6.0 Max | Codex | 总耗时 37 分 29.705 秒 · 3.589 秒 · 输入 1,292,366 · 输出 43,129(其中推理 15,271) · 总计 1,335,495 · 94.93% · 工具调用 20 · 失败 5 · Yes · No | 打开 | | GLM 5.3 Flash Max | OMP | 总耗时 30 分 14.979 秒 · 6.596 秒 · 输入 1,678,509 · 输出 63,405(推理 —) · 总计 1,741,914 · 78.54% · 工具调用 57 · 失败 0 · Yes · Yes | 打开 | | Qwen 3.8 27B x-high | OMP | 总耗时 41 分 25.836 秒 · 15.275 秒 · 输入 3,407,451 · 输出 71,935(其中推理 49,131) · 总计 3,479,386 · 86.92% · 工具调用 89 · 失败 0 · Yes · Yes | 打开 | | GLM 5.3 Flash Max | OpenCode | 总耗时 20 分 28.948 秒 · 6.284 秒 · 输入 4,305,447 · 输出 50,468(其中推理 33,414) · 总计 4,355,915 · 96.89% · 工具调用 67 · 失败 0 · Yes · Yes | 打开 | | Qwen 3.8 27B x-high | OpenCode | 总耗时 8 分 48.470 秒 · 10.182 秒 · 输入 665,490 · 输出 41,817(其中推理 28,788) · 总计 707,307 · 95.64% · 工具调用 13 · 失败 0 · Yes · Yes | 打开 | | Qwen 3.8 27B x-high | DSH / PTC | 总耗时 24 分 32.929 秒 · 7.724 秒 · 输入 1,012,499 · 输出 89,894(推理 —) · 总计 1,102,393 · 91.69% · 工具调用 23 · 失败 5 · Yes · Yes | 打开 | | Qwen 3.8 27B x-high | DSH | 总耗时 18 分 15.239 秒 · 6.755 秒 · 输入 2,654,457 · 输出 78,232(推理 —) · 总计 2,732,689 · 95.48% · 工具调用 42 · 失败 2 · No · No | 打开 |

所有 GLM 行都标为 GLM 5.3 Flash Max。输入 token 含缓存输入;输出 token 是包含推理在内的生成总数;如果 harness 单独上报推理,推理列就显示这一部分。DSH 适配器不单独上报推理数。DSH 的时长是两个回合内活动时间的总和,不含回合之间的暂停。工具错误按失败的工具事件记录;破折号表示未上报或不可用。

评论

这场讨论像一次公开“代码生成效果评测”的验收现场:有人对 Astra 的表现感到惊艳,也有人觉得所有画面都差不多。真正的分歧不在“谁最好看”,而在“靠一次生成怎么评判”,以及“该夸模型还是该夸执行框架”。

认为“最好”有好几个答案:Astra 呼较高,Qwen+OpenCode 也有人站

  • 不少评论把 Astra 列为视觉与功能上的最佳,甚至有人说它像 Unity 示例工程一样完整(较多人)。 > Astra 看起来像 Unity demo 项目,比我预期的强太多了(@andai)
  • 也有人觉得 Qwen 3.8 配 OpenCode 是性能与画面最平衡的组合,另有人觉得 Sol 最顺眼(少数人)。

认为视觉差异其实不大,结论容易主观

  • 有参与者直问“怎么判断哪个更好”,理由是各结果肉眼看来差不多;还有人觉得差别没那么大(少数人)。 > 它们看起来多多少少都差不多,你是怎么选出“最好”的?(@pdp)
  • 另有一条评论提醒:测试里说的“简单提示词”并不简单,不同人对“简单”的定义可能完全不同(@stuaxo)。

认为真正拉开差距的是“模型 + 执行框架”的配对

  • 有实测者发现,同一个模型换到不同执行框架后观感差别很大,例如 GLM 在非 Codex 的框架上明显更好(较多人)。 > 没想到执行框架的影响这么大,GLM 在非 Codex 的框架上好太多了(@sashank_1509)
  • 也有人分享了自己的观察:Pi(OMP)作为执行框架在这个任务上比 OpenCode 更可用,并认为模型与 harness 的配对比单看模型更重要(@rao-v)。
  • 还有评论质疑是否真的存在“不管配哪个模型都赢”的执行框架,还是每次都得看具体配对(@quietraster)。

认为评测缺少必要信息:成本、日期、重复运行

  • 多个评论强烈要求补充“估算成本”一列,最好连带注明测试日期,免得结果随着时间或版本快速失效(较多人)。
  • 还有评论指出,单次生成看不出稳定性,同一配置多跑几次,结果可能只是噪声。 > 同一套配置多跑几次,结果差异有多大?这个信息被漏掉了(@karlkloss)
  • 另有人担心,模型可能是在公开比赛、书籍示例或已有模板上“押中”了题目,而不是真的理解任务;这会让榜单失真(@utopiah)。

好奇为什么各方案都跑出“Hangar 07”

  • 多条评论都在问同一个现象:为什么这么多模型/框架都把场景叫成“Hangar 07”?这种高度雷同让人怀疑是提示词引导太强,还是模型都背到了类似的训练数据(较多人)。 > 所以它们到底是从哪儿都学会把这里叫“Hangar 07”的?(@BurpyDave)
  • 也有评论借此反问:如果提示词真像测试者说的那么简单,为什么结果却整齐地落到同一个名字上?(@jonasdn)

有价值的补充

  • 有参与者从 Three.js 细节指出:这些生成结果普遍没用 tone mapping,色彩被锁在 sRGB 里;也没用 node materials、阴影烘焙或后处理;而且拉取的 three.js 版本从 r160 到最新版不一。与其说 AI 会做 3D,不如说它离真正的 Three.js 工程还有不小距离(@onion2k)。
  • 另有人分享了一组可配本地模型使用的开源工具链:用 OpenChamber 做桌面端,再通过 OMP 服务端接入任意开源模型,方便新模型出来后快速试跑(@alvins82)。
  • 测试风格本身也有人认同:不堆长篇说明、直接把结果摆出来看,这种呈现方式在 AI 评测文章里反而少见(@ande-mnoc)。