文章探讨了由大型语言模型（LLM）生成的文本在阅读体验上的问题。作者指出，当误以为文本由人类撰写时，LLM生成的内容显得冗长且难以理解，充满了无意义的填充信息。这种文本缺乏明确的意图和逻辑，导致读者无法像阅读人类撰写的技术文档那样有效获取信息。作者认为，LLM生成的文本虽然表面上看似合理，但实际上缺乏深度和目的性，难以满足技术文档的阅读需求。

标题：AI代表“人工空洞”

发布日期：2025年8月4日

当你以为某段文字是由人类撰写，但实际上是由大型语言模型（LLM）生成时，总会感到一种不适。我终于找到了这种不适感的原因。

在工作中，我收到了一份长篇设计文档，并被要求提供意见。阅读时，我发现自己很难跟上文档的思路。最终，我猜测（并通过与“作者”的后续对话确认）这份文档的大部分内容是由LLM生成的。虽然某些部分听起来像是一份不错的设计文档，但其中充斥着大量无用的内容，只会让我感到困惑。

当我阅读技术文档时，我的目的是理解内容。在这种阅读模式下，我假设作者选择每个词都有其用意，每句话都是为了传达作者希望我理解的信息。然而，当文本是由LLM生成时，这种模式就失效了。当我阅读由计算机通过概率采样生成的文本时，我知道每个陈述都可能是幻觉或无关的填充物。我无法相信机器的表达能够准确传达人类操作者的意图。事实上，我确信它通常不能，但我不得不花费大量精力去发现这种差距。当我以为自己在阅读真实的文本时，实际上却在阅读空洞的内容，这让我感到疲惫：因为我没有警惕幻觉或无关内容，每个看似不合适的短语都会让我思考“为什么这个短语在这里”以及“我错过了什么”，而实际上，这些问题本身就不成立——那只是一个偶然生成的、听起来不错但缺乏实质意图的短语。

意图是核心问题：缺乏意图是阅读AI生成内容时感到厌恶的原因。任何值得我们关注和关心的内容，背后都需要有人类的意图——人类的意志和关怀。即使你同意罗兰·巴特在《作者之死》中的观点，即文本的意义在于它对观众的影响，而不是作者的意图，但事实是，一个由人类精心创作的作品，其意义远远超过由机器随意生成的内容。

不幸的是，对人类连接的仿制品将始终有需求。数十亿美元的色情产业就是明证。从今以后，人们可能会继续使用LLM来作弊，逃避学习。有些人可能会转向它们寻求虚假的陪伴。另一些人则会通过将越来越多的思考任务交给机器，试图在人生中赢得更大的胜利，就像赌博机一样。

我并不是说LLM毫无价值——它们是工程学的奇迹，能够解决一些困扰我们数十年的棘手问题。但重要的是要记住，无论这些机器变得多么强大，它们都不是人类。而没有任何人类会如此无价值，以至于可以被机器取代。

评论主要围绕LLM（大型语言模型）在写作中的应用及其优缺点展开，观点多样且存在争议。以下是总结：

1. LLM写作的缺点

• 冗长与缺乏重点：许多评论指出，LLM生成的文本常常冗长且缺乏重点，导致读者难以理解核心内容。
  • 引用：
    • "Parts of it sounded like a decent design document, but there was just way too much fluff that served only to confuse me."
    • "LLMs just fill up space with text."
• 缺乏人类意图：LLM生成的文本缺乏人类的情感和意图，显得空洞且机械化。
  • 引用：
    • "Intent is the core thing: the lack of intent is what makes reading AI-slop so revolting."
    • "When there is no author, that meaning doesn’t exist."

2. LLM写作的优点

• 提高效率：LLM可以帮助简化写作过程，尤其是在处理格式化和基础内容时。
  • 引用：
    • "LLMs can really help with transcription and AI-powered formatting."
    • "LLMs + search is more helpful than a Google Search."
• 逐步改进：尽管LLM目前存在不足，但其能力正在不断提升。
  • 引用：
    • "They are getting better all the time."
    • "A model trained only on high-quality human data will be far more capable."

3. 人类与LLM的协作

• 人类主导：许多评论认为，LLM应作为辅助工具，而非完全替代人类写作，人类的创造力和意图不可或缺。
  • 引用：
    • "I write the text and use the LLM to review and provide feedback."
    • "The point of doing good work means doing something new and creative."
• 责任在用户：LLM生成文本的质量取决于使用者的输入和编辑，而非工具本身。
  • 引用：
    • "The person who sent the author the design document is at fault here."
    • "It’s the person driving the LLM that makes the difference."

4. 社会与伦理问题

• 替代人类劳动：部分评论质疑LLM是否会取代人类劳动，尤其是在知识工作领域。
  • 引用：
    • "AI is just too powerful to be used in a way that is consistent with human beings keeping their intellectual environment healthy."
    • "Has the author been in any factory? Robots everywhere!"
• 信息过载与信任危机：LLM生成的大量低质量文本可能导致信息过载，并削弱人们对文本的信任。
  • 引用：
    • "They created syndevs whose sole purpose was to spew crap into the Reticulum."
    • "People don’t like reading something only to realize that it’s been written by an LLM."

5. 未来展望

• 优化使用场景：LLM在特定场景下（如简化复杂文本或生成娱乐内容）可能更有价值。
  • 引用：
    • "LLMs will be used to distill overly long writing to maximize relevance."
    • "AI can produce entertaining imagery and video for the pure goal of decompressing."
• 工具与人类的平衡：未来LLM的使用应更加注重与人类创造力的结合，而非完全依赖机器生成内容。
  • 引用：
    • "There still has to be the human touch."
    • "LLMs are not inherently incapable of writing well."

总结来看，评论者对LLM在写作中的应用持复杂态度，既认可其效率提升的潜力，也对其缺乏人类意图和可能带来的社会问题表示担忧。未来，LLM的使用需要在工具与人类创造力之间找到平衡。