那些很少进行原创写作的人,突然大量产出由人工智能(AI)生成的设计提案、商业计划、文档、演示文稿、工单、拉取请求、博客文章和会议摘要,这些内容全都难以阅读。人工智能正帮助我写得更好更快,但我已受够阅读几乎任何由人工智能写成的东西。
正文

那些很少写原创文章的人突然大量产出设计提案、商业计划、文档、演示、工单、拉取请求、博客和会议总结,全由AI生成。这一切都无法阅读。AI帮我写得更好更快,但我几乎受够了读任何AI写的东西。我想表达我的挫败,并描述我是如何在写作中从AI找到价值的。
AI 不擅长写作
我常见一种模式:人们用AI构建新东西,再用AI回头把已建成的东西总结成设计文档。读这种文档不光困难,简直是惩罚。设计文档不再是经由缓慢审慎思考来建立共识、带动他人、打磨想法的提案,而是机器制造的、详尽得令人疲惫却无背景无视角的总结。无法阅读,不近人情。作者们在别人不参与时变得不耐烦,这也难免,因为他们建的东西已经在跑了。
我也看到越来越多拉取请求摘要明显是机器写给机器的。细节丰富:这个改成那个,这些被拆分,那些被合并,这个没动,为这个加了测试,等等。但我不禁要问:我们为什么做这个?价值是什么?这工作多危险或多紧急?你要我哪里输入?我该注意什么?AI做的工单和会议总结也一样,这种写作如同越来越多的世界,是脱离语境的陈述。
有人就敏感话题给我写私信,明显用AI打磨过,想让对话更细腻不冒犯我。但信息变得无人情味、冷漠、支离破碎。该有的部分都有,整体却讲不通。我不感兴趣读它,也不想回复。我宁可有人做自己,用自己的声音甚至带点热情写,哪怕找不到确切词句,或可能冒犯我。
与他人相处,有脆弱和风险。与你的AI交流则没有,而试图消除脆弱和风险的举动会消除关系过程本身。正如Simon Sarris在《抵制总结》中所写:“我认为人应尽己所能用自己的经验主义、自己的感官写作,给读者自己对生活或事件的刻画。”
或许我见过最懒最冒犯的AI写作用法:有人用AI把我对他提案的评论总结成他给我的回复!
我没有你的语境
Cynthia Dunlop最近分享了关于阅读AI所写文章的调查,题为《报告:开发者如何应对带AI味的博客文章》。对大多数读者,若认为文章是AI辅助或撰写,他们会停止阅读(78%)并在未来避开作者(71%)。Bryan Cantrill在《读者的反叛》中写道:“我们的大脑拉动LLM触发的弹射手柄,在句中为自我保存跳出。”
调查中最强烈的结果是人们压倒性偏好作者自己的写作(98%),带着所有缺陷和怪癖,而非AI无魂重写。真诚写作是与他人联结的最佳方式之一。这让我想起C++创造者Bjarne Stroustrup在十多年前我参加的小组讨论中说:“读书时我真的觉得,若能在脑中听到作者声音回响——带着怪异口音和说话模式的特异——就觉得有东西成功了。若像干瘪学术文本,那就是又一本干瘪学术文本。所以就主题演讲有帮助。对很多人……我读时能听到他们,那很好。”
当你是给出AI提示的人,生成的输出往往很有用。但别误以为这是有效写作。你读输出时已有大量语境——你拟定提示、确立约束,并提供文档、源代码、日志、统计、图片等素材导向了输出。你可以略读迅速判断哪些相关有价值、哪些无关或错误。你也是过程的一部分——提示AI并看到结果——一呼一应。你给机器带来了人的视角。当你把同一段文字发给别人,他们基本没有语境。他们不在过程中——没有展开——因此很难判断什么相关什么不相关。他们被迫逐行通读,窥探机器内部以期建立语境。停下来是自然而然。
AI 也可以擅长写作
我最近写了一篇学术论文。我广泛使用AI,让写作更快更愉快。但AI没写论文一行。我用LaTeX写。给AI的语境包括期刊风格指南和模板、期刊已发表所有论文、我所写软件系统的源代码、以及该软件生产部署的配置日志指标。
写完一段,很多次我让AI参照源码或配置,或检查生产日志指标,确保我写的无误。例如,确保我正确描述了数据库哪些列建了索引,或Parquet文件行如何排序。这让我停留在写作语境中,常边写下段AI边验证上段。它帮我发现重要遗漏和不准。反过来——让AI从我给的语境写段落,比如从源码描述运作原理——从没价值。一次都没有。读起来始终难受,且常不准确。
另一帮我保持语境的是用AI补全引用。查找论文网站书细节、填BibTeX格式然后在文中引用很繁琐。反之,我留括号指令让AI引我要的,然后继续写不打断。
AI极其擅长——简直无情——找拼写语法错。它很会建议简化过长不清的句子。它擅用TikZ画技术图,再次提速,免我学这语法。AI甚至发现一个极隐蔽错误:我一段用了错误记号,四位该系统专家人类审稿人都漏了。
AI唯一极擅长写的是什么?它写了摘要——全文最简洁、机械、非人的部分——的确是最抽象的部分。我原封不动收入。或许这不意外,因AI擅总结、抽象和重现原作。
AI 能变擅长写作吗?
低估AI有朝一日能达到的写作是错误。我们仍在模型开发极早期,多数模型被训练得求事实、直接、正确而非创意。但Murat Demirbas的优秀文章《写作可能是AI最安全的工作》指出LLM写作质量已停滞,且难改进,因为不像编程数学会计,难提供清晰公式和可验证输出。“由于LLM缺乏针对特定人类读者的主动心理模型,它们只优化海量数据上下一词统计概率。它们不能共情人类读者,因无人类生活经验。且它们零风险。”
我有兴趣最近遇两改进AI写作努力。其一ASD-STE100简化技术英语,源于80年代航天工作组的技术文档写作标准,含受控词典和语法风格规则。已有为AI模型用的版本。它不适所有AI生成写作——特指清晰易遵手册。我将在安装说明、运行手册类文档试。
其二是Pangram,微调检测AI写作的模型。Bryan Cantrill在《读者的反叛》指出:“用LLM写作是废除作者与读者间社会契约:不应期望读者费力理解作者自己没费力创造的句子。”我万分同意。Bryan已开始实验用Pangram检测违契AI写作,甚至强制Oxide所有公开写作经Pangram报为人类撰写。此类工具可把我们从最懒最糟AI写作拯救。
当无词可表
我们写作时,词语意义不总直接事实简洁。例子有诗、文学、歌、神话、幽默、戏剧。Iain McGilchrist,我认为这代最重要作家之一,在《事物的特质》写:“东西越重要,越需挣扎以减为语言。”问LLM坠爱可靠公式是什么。在AI生成写作中,细节信息给意义错觉。但在模仿人类知识智能理解时,AI写事实不同于生活经验写作质量。整体不能拆为部分而不重大失义。“直接方法毁其对象。类似,有些只能间接传达。为重获所言深度,或言真正新事,我们总需超越日常语言,意味着警觉隐含所说。”
说商业工程科学写作应包含不确定而非仅事实结论,似傻。但运维、事件响应、产品开发、性能工程、搜安全漏洞、绩效评估、使命陈述等许多事皆创意含不确定。叙事常同事实结论重要。易拟人化LLM为好系统思考者因其综合广信息。但回Simon Sarris:“叙事抗拒压缩”“总结反义是关注细节”。
尽管强调线性第一性原理,好系统工程师如好人学家心理学家,难言难总结。你不能必用公式观察写下。甚至写下也失些语境。观察者也是语境部分。系统工作总带发现感,开放未知,与系统关系展开,愿惊喜。日常语言不总有词。“总结输出本质是提速。但后果是免你建自己复杂心理模型。忧无此模型永注意不到错失复杂关系。失细节。”
结论
我不想活在一个你用AI把重要东西总结成难读文本、然后我用AI试图解码的世界。我想听你,不完美也罢。我要你美学、美、质、关系、时间的解读。我想知你感受。我要你切入告我真正要紧的。我不想读脱离经验关系的事实连接总结。如McGilchrist描述,我们关注世界方式改变生成物本质,唯一可知世界。“若叫机器为你做,你风险在不求所要而求它善做。若它善总结你依赖工具,你或调问题得好答。这看似训机器做你要,但也训自己某方式问世界。你省略了什么问题?”
有意写作或更值。写作并写以思、深思谨或创、分享或捕捉重要不直言者续写原作。从不写者用AI产大量文本。
读更多AI文本,我们或没注意AI扰乱改变,因自己变浅。求确定限人性。有时找不到词更重要。我不想读你没写的东西。
评论
社区普遍对 AI 生成的冗长文档感到厌倦,认为其剥夺了人性思考与沟通本质;少数人则反驳称这是过度反应,且反对者显得自命不凡。
认为 AI 生成的文档冗长且读之如受罚
- AI 生成的 PR 说明或设计文档往往篇幅巨大、充满套话,读者既没时间读又因审查责任被迫读,这种文字被普遍视为垃圾信息。(较多人) > 我不想读你根本没写的东西,我想亲耳听你说。(@idreyn)
质疑批判 AI 的文章本身也是 AI 写的
- 文章批判 AI 写作,但其中“读这种文档不只是困难,简直是惩罚”这类句式正是典型的 AI 套路,让人怀疑作者自己在用 AI 或是在钓鱼。(较多人) > 讽刺的是,这篇反 AI 写作的文章里那句“读这种文档不只是困难,简直是惩罚”本身就充满了 AI 味。(@ummonk)
认为写作的本质是逼自己想清楚
- 写作或任何创作活动迫使作者清晰思考、直面问题,传达给他人只是附加好处;相比被 AI 消化过的文字,人们更喜欢带有人类瑕疵的即时思考流。(较多人) > 写作能逼着你把事情想清楚,把想法传达给别人反倒是额外的奖赏。(@somewhereoutth)
认为对 AI 写作的批判是过度反应
- 纯事实陈述方式本就有限,人们常误把原创当 AI 生成;如果有效用 AI 辅助再由自己写,外人根本看不出,这类批评显得高高在上。(少数人) > 这类帖子越来越像在摆架子,觉得自已特别有创造力,而用 AI 的人都是无脑的。(@benatkin)
有价值的补充
- 审查困境:有人因代码改动仅 20 行却附带好几页 AI 生成的风险与决策说明而直接拒稿,因为读不完又不敢盲目批准。(@zmmmmm)
- 反直觉趋势:随着网上大量批判 AI 写作的文章出现,语言模型很快就能完美仿写“批判 AI 毁了写作”的文章了。(@kingcauchy)
- 精巧类比:将人的思绪经过 AI 代理比作“被 AI 的消化道拉出来”,认为代理模式会贪婪地拼接知识库内容,让文字变得更糟。(@addisonj)
- 信息论视角:若你只需传递少量真信息,让模型补其余部分只是增加读者需过滤的噪音,因为猜对的部分本就不是有效信息。(@hatthew)