Hacker News 中文摘要

RSS订阅

The Emperor Pelican Has No Clothes

前沿AI模型在设计创造力上仍明显不及人类设计师。推出设计创造力基准(Design Creativity Bench),评估AI模型在UI设计任务上的创造力。尽管UI生成能力进步迅速,领先模型仍难做出有创造力的设计决策。评估16个前沿模型、80项UI任务,每个任务适配两个产品域,参照人类设计师,从原创性、创意范围与适用性三维衡量。最佳模型为开放人工智能(OpenAI)GPT-6 阿斯特拉(GPT-6 Astra),得65.5分,人类参考为92.3分。

正文

前沿 AI 模型在设计创造力上仍远远落后于人类设计师。

Design Creativity Bench 是一个新基准,用于评估 AI 模型在 UI 设计任务上的创造力。

尽管模型生成可用网站和产品 UI 的能力进步很快,领先模型在做创造性设计决策时依然吃力。

我们在 80 个开放式 UI 任务上评估了 16 个前沿模型;每个任务都被改编到两个不同的产品领域,并配有真人设计师的参考设计。

现有 UI 基准通常只衡量单一的输出质量指标。我们改为衡量设计创造力的三个维度:

  • 原创性:在同一份设计需求下,某个模型的设计与其他模型输出之间的差异程度。
  • 创意范围:当产品领域变化时,模型调整设计决策的程度。
  • 适配度:生成的 UI 满足设计需求中功能要求的程度。

结果显示,整体创造力的差距很大:表现最好的模型 OpenAI GPT-6 Astra 得分为 65.5,而人类参考分为 92.3。

我们公开了完整排行榜、评估方法和可复现的评估框架,让设计创造力成为前沿模型能力中一个可被衡量的维度。

排行榜:https://kombai.com/benchmark/ 论文:https://arxiv.org/abs/2610.11539 HuggingFace 数据集:https://huggingface.co/datasets/Kombai/design-creativity-bench GitHub:https://github.com/kombai-io/design-creativity-bench/

评论

高赞评论多认为,在提示语只要求“鹈鹕骑自行车”且未指定风格时,模型给出通用、可预期的输出,是遵循指令与 SVG 等格式约束的正常结果,并非缺陷,想要创意应靠提示词或人类引导;较多人则坚持,这是后训练/RLHF 与共享数据集导致的真实多样性坍塌,被严重低估且可能扼杀创新。少数人补充说,人类在同样提示下也并不更有创意,不能只责怪模型。

认为默认同质化输出是遵循指令与格式约束的正常结果,并非缺陷

  • 模型本质是预测并服从指令的工具,简单且不指定风格的提示自然得到简单结果;SVG 作为二维图标格式也会把画面推向多边形、矢量、易识别的默认样式。许多评论认为,若想要雨天城市、东亚、外太空或写实版本,应改写提示词或继续迭代,而不是期待模型在默认提问下主动发散。更好的提示词能把分布从平均值移开,因此“默认普通”是给用户留出可控空间,不是模型失败。(认可度:高赞) > 简单提示对应简单输出,这是模型变得更擅长服从指令、照做,而不是缺陷。(@randomblock1)

认为后训练与共享数据造成了真实的多样性坍塌,值得警惕

  • 不少评论强调,这不只是提示太简单,而是当前模型在对齐/RLHF 等后训练之后,相对后训练数据分布发生了模式坍塌;它们在同一提示下反复重建相似构图,如太阳、道路、绿色、围巾、向右行进,连风格都趋同,甚至代码生成也千篇一律。评论认为这种多样性缺失被严重低估,会扼杀创新,且并非 transformer 独有,但也不是根本限制——无监督模型本可达到训练数据允许的多样性。(认可度:较多人) > 当前所有后训练模型相对后训练分布都发生了模式坍塌,这是各类模型常见的失效模式,但不是根本限制——无监督模型本可拥有训练数据允许的多样性。(@orbital-decay)

认为人类在相同提示下也不见得更有创意,不能只责怪模型

  • 若给人类设计师、学生或普通路人同样的无额外指令提示,结果也会高度趋同:多数人只会画出通用沙滩或自己熟悉的场景,需要极多样本才会出现月球、霓虹东京等异常有创意的答案。换言之,鹈鹕自行车的“普通联想”反映的是人与数据的共同偏见,而不是模型单独缺乏创造力。(认可度:少数人) > 人也不见得更有创意:让人想象鹈鹕骑自行车并追问场景,多半只得到通用沙滩或熟悉地点,要几千人才会出现“月球上的鹈鹕”或“霓虹东京”。(@micromacrofoot)

有价值的补充

  • SVG 是常用于图标的二维格式,本身就会把输出推向多边形、简笔矢量风格;评论里有人让模型把 Logo 改得更写实后效果更好,说明“看起来多边形”是格式约束,而不是模型不会写实。
  • 代码生成领域的反直觉风险:让模型实现某个功能时,它大多输出类似“注释良好的栈溢出实习生项目”的同质化实现,评论认为这种千篇一律足以用来训练对抗样本或在事后攻破系统。
  • 图像模型的经验可作类比:从 base 模型到 turbo/蒸馏模型,base 通常更受随机种子影响,而对齐后的 turbo 模型多样性更低,说明 RLHF/对齐会压缩输出分布。
  • 精巧类比:有人把这类模型比作“拼写检查器,而不是艺术生”——它按预测机制工作,为了不胡说而降低随机性,因此不该期待它主动给出每个提示都独特的艺术表达。
  • 即便在所谓多样结果里,大多数鹈鹕也被画成从左向右骑行,说明数据与人类认知里都有方向等深层偏见,要消除才能得到真正的多样性。
  • 趋同并不只发生在 LLM:全球化与优化让企业 Logo、室内设计、公寓户型都趋于同一种极简风;很多产品负责人还把“和竞品一样”当成优点,直接要求复制 Gmail 标签或 Anthropic 的聊天界面。
  • 纯玩笑:有人回复“现在画一只房间里的大象”,用“房间里的大象”调侃多样性缺失这个显而易见却被回避的问题。