Hacker News 中文摘要

RSS订阅

ChatGPT 给伪造的《纽约客》漫画加上真实漫画家签名 -- ChatGPT is adding real cartoonists' signatures to fake New Yorker cartoons

在天堂门口,多莉·帕顿(Dolly Parton)身穿闪亮礼服,与扮成弗兰克-N-弗特博士的蒂姆·柯里(Tim Curry)挽手而立,她对守在接待台的上帝说自己选对了伴。这幅漫画在两位艺人八月底去世后于推特走红,单条获2.5万赞,还传到Facebook、Instagram和Bluesky。画面右下角署着《纽约客》漫画家布伦丹·洛珀(Brendan Loper)的笔名BLOPER,但他既没画也没签名:图由ChatGPT生成,最初是一位多莉·帕顿粉丝发在Facebook,她在评论里说只是让ChatGPT画了一幅。

正文

八月末两位艺人去世后,一幅漫画在Twitter疯传:天堂门口,闪亮礼服的Dolly Parton与扮成Dr. Frank-N-Furter的Tim Curry挽手,Parton对上帝说:“我就知道没找错同伴。”该图获2.5万赞,也在Facebook、Instagram和Bluesky流传。

漫画右下角有笔名“BLOPER”,即New Yorker漫画家Brendan Loper的签名。但Loper并未创作或签名,它是ChatGPT生成,由一位粉丝首发Facebook,她称只是让ChatGPT画“New Yorker风格漫画”。

Loper告诉我,有人问漫画是否出自他手。先是双胞胎兄弟发短信,朋友看到了AI图;接着陌生人的邮件和私信。“非常超现实。”

这非ChatGPT首次复制Loper签名。五月有人通过Instagram警告他笔名出现在AI输出中。夏天他在Reddit论坛发现更多类似New Yorker风格漫画。

Loper自知作品被抓取用于AI训练,但生成器伪造签名更私人。“我不霸道,但名字就是名字,感觉像对我人格的侵犯。”

如今漫画签名不仅是署名。漫画常被脱离原境在社交媒体流传,签名如同水印,将作品绑定创作者。

Loper说:“签名是我的真品证书。我只把它放在我认为需认定为出自我手的网络作品上。签了名就是官方的、我的。它是品牌,是我的标记。”

Loper并非唯一受害的New Yorker漫画家。论坛里还有Harry Bliss、Emily Flake、Joe Dator、Pat Byrnes、Peter Vey、Jason Adam Katzenstein等人的签名。我测试时,ChatGPT输出了包括George Booth、Liza Donnelly、Ellis Rosen、Saul Steinberg等过去和现在知名漫画家的签名。我共记录超过15位New Yorker漫画家签名被OpenAI图像生成器未经许可使用。

OpenAI发言人在声明中称:“我们相信创造力的未来根本上是人类的,重点在于构建赋能人类创造力的工具。我们非常感谢社区标记模型漏洞和意外行为,以便我们处理。”

我通知OpenAI后,ChatGPT在生成New Yorker风格漫画时开始输出:“此提示可能违反我们关于第三方内容相似的防护栏。”但截至本文发布,它仍在一些通用漫画上签真实漫画家之名。

我的测试中,ChatGPT常生成具有这本101年历史杂志风格的漫画:黑白单格、背景稀疏、线条干净、讽刺说明文字——或至少近似。有些笑话不通。

并非每图都有签名,有些是乱码笔名。但出现的签名常是真实供稿人,包括1960年代发表作品的Warren Miller。

Emily Flake自2008年供稿,她说:“能看到我作品的基因,但不像我画的。”网上一些ChatGPT漫画签她“e. flake”。“像远房表亲。”姿态和阴影有她视觉身份的影子,但整体更像多位漫画家风格混合。签名无疑出自她手。“像有人把我没说过的引语安给我。”

左侧为2026年6月发布在Reddit、由ChatGPT生成并签有Emily Flake签名的漫画,右侧为2026年8月20日发表于《纽约客》、经The Cartoon Bank授权的Emily Flake真实漫画

2026年6月发布在Reddit论坛、由ChatGPT生成并签有Emily Flake签名的漫画

2026年8月20日发表于《纽约客》、经The Cartoon Bank授权的Emily Flake真实漫画

2024年,New Yorker母公司Condé Nast与OpenAI签多年许可协议,允许其产品使用出版商内容。条款未公开,但New Yorker发言人表示,Condé Nast从未授予任何大语言模型开发者训练漫画的许可。有些ChatGPT创作还复制了New Yorker logo,这同样不被任何协议允许。

OpenAI拒绝回答模型如何在训练中从New Yorker档案获取签名。

即便Condé Nast想授权,New Yorker标准漫画家合同也几乎无空间。杂志编辑与自由撰稿人合作,投稿仅在被选发表时才获酬。我审阅的几份合同模板均不允许AI训练授权。New Yorker有首发权,但非“雇佣作品”,漫画家保留版权。

OpenAI模型如何学到签名?可能从网络抓取。上月公开的纽约时报诉OpenAI案文件显示,OpenAI在开发时故意规避出版商付费墙。未删节微软备忘录称ChatGPT是“摧毁供应链的产品”,抓取数据训练是“人类历史上最大的劳动盗窃”。

OpenAI时任政策总监Jack Clark在备忘录写道:“我们在AI与创造力上的工作,将日益导致我们创造替代社会‘文化’定义者劳动的系统。”(Clark后共同创立Anthropic)许多漫画家呼应此感。

Jason Adam Katzenstein自2014年发表漫画,他说:“这是对笑话印象的诡异仿品,但重点不在好笑。重点是给劳动致命一击,让漫画家过时,因为我们花钱费时。”他参与了2024年Authors Guild诉Anthropic集体诉讼,其漫画被Harper Collins选集盗版用于训练Claude。

去年法官裁定训练Claude属合理使用,但下载保留盗版书是大规模侵权。七月联邦法院批准和解,赔作者出版商15亿美元,创美国版权法历史最高。

Katzenstein认为ChatGPT复制签名不仅是知识产权侵犯,更接近虚假冒充。“它把我的名字附在我不认可的作品上,是垃圾,且伪装成我。”

几位漫画家区分了模仿画风与复制签名。Joe Dator供稿20年,说:“有人盗过我信用卡,都没这侵犯。盗卡没扮成我。”

左侧为ChatGPT生成并签有Pat Byrnes签名的漫画,右侧为经The Cartoon Bank授权的Pat Byrnes纽约客真实漫画

ChatGPT生成并签有Pat Byrnes签名的漫画

经The Cartoon Bank授权的Pat Byrnes纽约客真实漫画

美国知识产权判例尚未赶上AI图像生成器,但法院可能视这些问题为不同。版权侵权索赔大概率取决于ChatGPT复制具体画风。康奈尔法学院教授James Grimmelmann说:“签名是真实指示,但归属在合理使用考量中占比很小。”主要挑战是ChatGPT通常未复制具体漫画,而是模仿一般风格。

其他漫画家已起诉AI图像公司。Sarah Anderson领衔诉Stability AI等的集体诉讼自2023年推进,但未提及签名。

Grimmelmann称,漫画家或可依“公开权”起诉,该州法律保护个人姓名身份免遭商用。需证明AI漫画用于商业目的,而非玩笑。

虽无证据这些AI漫画被买卖,但已有取代专业漫画家迹象。去年《巴尔的摩太阳报》解雇了30年社论漫画家Kevin Kallaugher,今年开始定期在评论版发布AI生成漫画。OpenAI水印工具显示其用OpenAI产品。

美国社论漫画家协会主席Marc Murphy上月公开信写道:“我们谴责AI窃取艺术家、滥用地球资源、威胁原创思想。太阳报并非唯一走此路的美国报纸。”

New Yorker尚未转向AI漫画,但供稿人都说无法仅靠杂志稿酬维生。New Yorker漫画是名片,带来商单、插画等生计,而这正受AI威胁。

1998年Pat Byrnes以“P.Byrnes”在New Yorker发表首幅漫画,并建起数十年生涯。自少年作画起,他签名总带句号。“像签信,这是我的声明——赠你接受或拒绝。”

我找到的十几幅签Byrnes名的ChatGPT漫画,每幅末尾都有句号。

评论

多数讨论没在纠结这是不是故意,而是把它当成模型照抄训练数据的直接证据,顺势质疑"LLM 会推理"的叙事;少数人则把矛头对准冒名顶替的伦理与法律后果、生成式 AI 的商业模式,以及舆论为何只盯着 OpenAI。

签名进,签名出,模型只是在延续训练数据里的惯例

  • 漫画几乎总带作者签名,模型见过成千上万张,生成时按这个模式补上一枚,属于分布内的机械行为。(较多人) > 它见过的几乎每张图都带着签名,于是自己也签一个。(@dyauspitr)

如果模型真在推理,就不会把签名画上去

  • 这个错误被用来反驳两种辩护:一是"LLM 具备推理能力",二是"人类也会犯错"——人类不会以这种形式犯错。(较多人) > 它要是真在思考,生成到签名那一步就该停了。(@parineum)

性质已经从版权侵权滑向冒名顶替

  • 被引述的漫画家认为,把名字挂到自己没写过、也不认同的作品上,比盗刷信用卡更冒犯;从可诉性看,伪造署名可能比版权侵权更容易举证。(少数人) > 有人盗刷我的信用卡,感觉都没这个侵犯——至少盗刷的人没扮成我。(@baubino)

生成式 AI 的商业模式本来就是"抄袭即服务"

  • 无论初衷如何,这就是它的运作方式,"版权洗衣机"之类的讽刺都指向同一点。(少数人) > 硬说这不是商业模式也行,但这就是商业模式。(@MarkusQ)

该把科学/数学/代码与艺术内容生成分开看

  • 反 LLM 的诸多议题里,抄袭最受关注也最可解;真正造成伤害和能耗的是视频、图像、文学这类产出,而模型最擅长的科学、数学、代码工作本可以做得更干净。(少数人) > 我希望这两条路线能分开,一边的问题比另一边大得多。(@zzzeek)

只骂 OpenAI 是双标,Gemini 和 Claude 一样会这么干

  • 伪造签名不是某家产品的个例,而是同类模型的通病,舆论火力却集中在一家。(少数人) > 我基本确定,Gemini 和 Claude 做同样的事跟 ChatGPT 一样容易。(@nyorai)

这是该修的 bug,但模型该不该署名本身没有答案

  • 不管原始意图如何都该修复;可让模型署自己的名字,还是干脆不署名,仍是个开放问题。(少数人) > 不管本意是什么,这明显是个 bug,应该修。可它该署自己的名,还是什么都不署?(@skybrian)

有价值的补充

  • 生成漫画时冒出假签名是长期顽疾,往往得再修一次图擦掉,而多数用户根本不会注意。(@gwern)
  • 有人的工程经理把署名"bloper"的 AI 漫画放进冲刺演示,内容不好笑,也没人发现签名是假的。(@WD-42)
  • 有人用《沙丘》里的巴特勒圣战调侃当下对 AI 的敌意,算是社区情绪的一个缩影。(@deforestgump)