阅读(Reading)对我而言非常重要。虽然我并非速读者,阅读量也称不上庞杂,但我发现长文阅读在我的人生中产生了深远影响。正因如此,写作对我同样重要,写作不仅能传递思想,其过程本身更会迫使我们检验并提炼观点,让想法更严谨,同时也成为分享的载体。但此刻提笔,是因为作为一名读者,我们已深感恼火:太多我们原本欣赏和尊重的人,正在撰写或署名发表那些明显由LLM(大语言模型)生成的文章。
正文
阅读对我很重要。虽然我读得不快,也称不上博览群书,但长文阅读对我的人生产生了深远的影响。
正因为阅读重要,写作也同样重要:写作不仅能让我们传达想法,这个过程本身还会迫使我们去检验和提炼这些想法——既让观点更严谨,也提供了分享的途径。
但我现在动笔,是因为作为读者,我们真的很恼火:有太多人——包括那些我们本来喜欢且尊敬的人——正写出(或挂名)一些明显由大语言模型代笔的文章。我们读者想向这些推广AI代笔文章的人提出尖锐的问题:你们是觉得读者看不出来?还是觉得读者根本不在乎?
对于前一个问题,读者绝对看得出来。对于广泛阅读的人来说,AI的痕迹太明显了,就像作者的“智力拉链没拉”一样一目了然。这种痕迹甚至让人感到刺眼,以至于我不得不认为,那些用AI写作的人要么是读得太少,看不出AI明显的结构特征,要么就是连他们自己写的内容都没读过。(坦白说,遇到特别恶劣的文章,我甚至幻想过判作者当众朗读自己的作品,因为他们自己肯定也受不了强加给读者的那些垃圾。)
至于后一个问题,读者确实非常在乎。AI写作的特征实在太磨人了(比如动不动就冒出“下面说说为什么这个框架很重要!”),以至于我们的大脑会触发“紧急弹射手柄”,为了自我保护,在读到一半时就直接放弃。这里用“我们”是有意为之的:正如Cynthia Dunlop所写,在她调查的668名开发者中,78%的人一旦察觉是AI写的就会“立刻停止阅读”。而且后果不仅限于这篇文章:Cynthia的调查中还有71%的受访者会“在未来刻意避开这位作者”(!!)。耐人寻味的是,受访者追求的并非语言上的完美,而是真实性:98%的人表示宁愿读作者亲自写的(哪怕有瑕疵的)文章,也不要AI润色过的版本。最后,别以为Cynthia的受访者只是个自我筛选的小群体:社交媒体上的活跃读者恰恰是最有可能转发或推广好文章的群体——他们是在线写作的早期采用者和品味引领者。
为什么人们会有这种反应?除了要忍受恼人的文体怪癖,当读到一篇由AI深度参与的文章时,我们读者无从分辨哪些是真实内容,哪些是虚构的。正如我在RFD 576中所写,用AI代笔等同于违背了作者与读者之间的社会契约:如果作者自己都不曾费力创作,读者也不该被迫去费力理解那些句子。
读者的反抗重要吗?如果需要说明的话,当你用AI来创作公开文章时,你不再是为自己写作或检验自己的想法——唯一的目的就是服务读者。如果读者选择无视你(或许是永远),你就是在自毁长城:你不仅没能吸引读者,反而在主动驱逐他们。因此,抛开其他关于AI使用的评判,用AI代笔将变得越来越……无效。
说到这里,我想起垃圾邮件的演变历程。早在2000年代初,人们曾(合理地!)担心垃圾邮件的爆发会毁掉电子邮件。那时社交网络尚未兴起,电子邮件是互联网的标志性应用;我们眼睁睁看着电子邮件被垃圾邮件淹没,感到非常沮丧。但在2000年代后期,形势发生了转折:垃圾邮件过滤技术大幅改进,破坏了垃圾邮件的经济模型。此外,随着垃圾邮件得到有效遏制,被标记为垃圾邮件的后果也变得极其严重。如今,正规企业在使用批量邮件时都非常谨慎;一旦被标记为垃圾邮件,几乎意味着域名报废、品牌蒙羞。
反垃圾邮件的战争在能够大规模识别垃圾邮件时开始扭转;难道类似的剧情不会发生在AI代笔的文章上吗?就像垃圾邮件一样,人类读者很容易识别出AI的影响;这肯定是一个可以解决的问题。
直到不久前,这方面的成果还喜忧参半。我曾尝试用AI来识别AI文本,但发现其漏报率太高了:它们经常把那些我断定是AI写的文章误判为通过。其他服务似乎只寻找一些基础的AI特征,但作为一个(毫不掩饰的!)破折号爱好者,这些肤浅的技术让我坐立难安(而且我发现它们普遍不可靠,根本不值得常用)。
去年年底,Pangram Labs发布了他们的Pangram 3模型。我发现它比其他检测器强了一大截,于是成了忠实用户。重要的是,经过几个月的使用(尤其是在那些我已知出处的样本上),我发现它的误报率非常低:当Pangram判定某文本主要由AI创作时,我有把握确认AI深度参与了。(它的漏报率比我期望的要高,但考虑到低误报率,这点代价可以接受。)
一个多月前,他们推出了Pangram 4,我发现它比已经很出色的Pangram 3又有了质的飞跃:根据我的经验,它的误报率和漏报率都低得惊人(也就是说:准确率非常高!)。它如此有效,加上使用AI写作导致的信任崩塌如此剧烈,以至于我最近更新了RFD 576,明确规定了公开写作的标准,明确要求Oxide的公开文章经Pangram检测必须显示为“人类创作”。正如我在RFD中所解释的,我们公开写作的标准不仅仅是“不使用AI写作”,而是要让读者确信它并非AI代笔——而如今这就意味着要通过Pangram的“清洗”。对于那些珍视机构声音真实性的组织,我建议对其旗下作者的写作采取类似政策。(说的就是你,Rust基金会!)
事实上,Pangram对我们许多人来说已经变得如此重要,以至于当Pangram Labs的联合创始人兼CEOMax Spero最近做客《Oxide与朋友》时,我欣喜若狂。我推荐那次讨论,不仅因为它涉及Pangram的技术细节,还因为Adam提到了一个恰到好处(当时却未被充分欣赏的)《辛普森一家》梗:当我把AI代笔比作把外卖当自己做的菜端上桌时,Adam调侃道这种做法就像“清蒸汉堡”,指的是Skinner校长试图把Krusty汉堡说成是家传秘方。除了这个贴切的梗,听到Max分享Pangram 4为何特别有效的见解也很有趣——以及为什么它的有效性似乎引来了一些可疑的抗议哀嚎。
所以,作者们请注意:读者正在反抗。你应该完全预料到自己的文章会被拿去跑一遍Pangram。如果你们认为我们应该接受由AI根据你的提示词生成文章,那就省省大家的时间,直接把提示词给我们好了。或者,更好的做法是,学学前辈作家们的做法,把提示词当作大纲骨架,自己动手去写!这并不意味着不能让AI帮忙,当然——AI是超级棒的文本编辑!——只是说,如果你真指望我们其他人去读你的文章,恐怕就不该让AI替你执笔。
评论
这组讨论的气氛带着疲惫和嘲讽:多数人已经厌倦被迫阅读由 AI 拼凑、没有修改痕迹的文本,认为这是对读者时间的不尊重;少数人提醒,AI 文本是否真的“一眼可知”值得怀疑,企业渠道里的商业垃圾和公关互推本来就存在,问题未必是新工具带来的。分歧主轴在于,作者与读者之间的写作契约是被 AI 破坏的,还是早已被商业互推与廉价内容生产的惯性架空了。
作者不花力气写,就不该指望读者花力气读
- 多个评论者认为,用 AI 直接生成的文档缺少人的“思考弧线”;一眼看出来是机器拼的后,说服力立即归零。也有人不反对把 AI 用于辅助研究,但不能接受整份文档只是敷衍出来的成品。 > 如果一份内容不值得你花时间写,那它也不值得我花时间读(@cagenut) (认可度:较多人)
AI 垃圾是“可以放心停止阅读”的可靠信号
- 有评论反向解读:这种文字对读者反而是一种帮助,它用接近百分之百的准确率告诉你,后面的内容不值得消费。 > 他们其实在帮我们:很少能遇到这么可靠的信号,提示我可以安全地停下来不读了(@overgard) (认可度:少数人)
AI 文本是否可识别,本身是个统计陷阱
- 有评论指出,所谓“一眼识别 AI”存在认知偏差:没有察觉那是 AI 的人,根本不会知道自己没察觉;未被发现的 AI 内容不会进入讨论样本。同时,人类作者被误判为 AI 的例子也已不少,因此“ AI 内容遍地且很容易识破”的结论很难严谨成立。 > 如果一个人读了 AI 文本却没注意到,那他就不会知道自己错过了什么,所以不能用个例推断整体状态。(@Lerc) (认可度:少数人)
企业早就在制造垃圾,廉价 AI 只是降低了扩产成本
- 有评论拆穿文章的前提:所谓“合法企业很谨慎地使用群发邮件”并不符合现实;用户刚下一单就会被订阅邮件、评论请求和弃单提醒包围。至于教程和公关内容,本质也是广告,AI 让制作变得更便宜,资本自然没有理由拒绝。 > 那些教程不是为了帮你,而是在向你打广告;既然 AI 能廉价地干这活,他们当然不会心疼。(@throwaway219450) (认可度:少数人)
批评 AI 写作的文章,可能也只是另一场交叉推广
- 有评论对文章动机表示玩味:一边批评 AI 辅助写作,一边在自己节目里请 Pangram Labs 的负责人来谈产品,读起来更像一次 PR 互换。若真是如此,文章对 AI 写作的道德批评就显得有些别扭。 > 显而易见的 AI 辅助写作,和显而易见的公关利益交换,到底哪一个更糟?(@CharlesW) (认可度:少数人)
有价值的补充
- 一条评论把写作分成两种:作为“发现想法的方式”时,文章是思考留下的面包屑;作为“留下印记的方式”时,文章是被反复打磨的表面。AI 介入后,连“是否真的发生过修改”都成了问题,等于抽掉了文字背后那条探索的路径感。(@turtleyacht)
- 有人调侃,希望出现一个浏览器扩展,给 Hacker News 热帖都标上 Pangram 检测分,免得浪费时间读垃圾。这未必是可行的方案,却准确反映了社区已经被机器文本占满阅读列表的烦躁。(@duhhhhh1212)
- 真实世界已经有加拿大立法者在议会发言中朗读明显由 AI 生成的应答材料。可见“让作者自己大声读一遍就会受不了”的想象或许过于乐观,因为有人真的能面无愧色地读出来。(@MarkusQ)