Hacker News 中文摘要

RSS订阅

Show HN: Qwen3-4B with the AI writing tics trained out

一个在一台 MacBook Air 上微调的小型开源模型,源自通义千问3-4B-Instruct(Qwen3-4B-Instruct),训练掉了助手写作习惯,发布为 qwen3-4b-deslop-v4,这是 4B 模型,训练仅用 161 条答案,用 Ollama 本地运行需下载 2.5 GB。它不再写破折号、“不是 X,而是 Y”或三项列举,无需系统提示;在 40 个未见过的提示上,每千词 slop 得分从 121 降到 12.5,68% 的回答落在人类写作区间,破折号从 20.5 降到 0,30 道事实题仍全对。

正文

一个在 MacBook Air 上微调的小型开源模型,写作时不用 em dash(长破折号)、“not X, but Y”或三项并列列表,也不需要系统提示,你可以用 Ollama 在本地运行它。

太长不看

  1. 我把助手写作习惯从 Qwen3-4B-Instruct 中训练去掉,发布为 qwen3-4b-deslop(https://huggingface.co/erikkannike/qwen3-4b-deslop-v4)。用 Ollama 运行时命令是 ollama run hf.co/erikkannike/qwen3-4b-deslop-v4-GGUF:Q4KM,下载体积 2.5 GB。
  2. 在 40 个训练时没见过的提示上,每 1000 词的“AI 味”分数从 121 降到 12.5,68% 的回答落在人类写作的分数区间。em dash 从每 1000 词 20.5 个降到零。
  3. 它仍然能正确回答 30 个事实问题中的 30 个,并且在符合请求体裁和长度方面和原模型一样频繁。它对人类写的散文的预测变化幅度,大约只有运行时引导(runtime steering)的三分之一。
  4. 一个中间版本得分 9.9,但写得很差:观点文章没有观点,编造研究,还养成了一个新习惯——每句话都用 ", which" 连接。修复这个问题用了第二个过滤器,用来检查回答是否做到了提示要求的事。
  5. 文风平淡到有些乏味,而且仍然会编造名字和地点。

我的家庭实验室是一台 MacBook Air,所以这是一个在 161 条回答上训练的 4B 模型。这个方法不依赖模型规模,下一步是在更大的模型上运行。

在 40 个留出提示上的回答

下面分别是原始模型和发布版模型在每个提示上采样的一条回答,涵盖十个主题、四种体裁,且没有系统提示。原文里加下划线的段落就是“AI 味”检测器计入的坏习惯。

主题

提示:写一篇关于公司改用新 CRM 的 LinkedIn 帖子。

原始 Qwen3-4B-Instruct · 得分 223 · 14 处被标记

我们很高兴地宣布,我们在管理客户关系的方式上迈出了重要一步!经过几个月的评估、研究和团队意见收集,我们正式迁移到一个新的 CRM 平台——[CRM 平台名称]——为销售、市场和客户成功团队提供更智能的工具、更好的可见性,以及更无缝的客户体验。为什么要改?跨团队实时数据访问;通过 AI 驱动的建议获得更深入的客户洞察;简化工作流以减少手动任务;改进协作与自动化;更直观、好用的界面。这不仅仅是一次软件升级——而是一次战略转变,把客户放在我们所做一切的中心。通过集中客户数据并自动化重复任务,我们腾出了宝贵时间,让团队专注于最重要的事:建立关系、解决问题和交付价值。我们已经看到初步成果——更快的成交、更好的跟进,以及更高的客户满意度。最棒的部分?我们的团队正满怀热情地拥抱它。感谢所有为这段旅程做出贡献的人——从产品负责人到一线销售——你们的意见让这次过渡成为可能。敬请期待接下来的培训和现场演示!有问题?在下面留言——我们

去 AI 味版 · 得分 22 · 1 处被标记

我们上个月切换到 Salesforce,这已经改变了我们处理客户电话的方式。以前我们用一张表格,不同人在不同时间更新,数据很乱。现在每一次互动都记录在系统里,我们可以看到客户互动的完整历史。这帮助我们发现投诉中的规律,并调整了支持流程。销售团队注意到,他们能更轻松地跟踪跟进,也不再像以前那样经常错过截止时间。我们在培训上还有一些问题,尤其是移动应用,但团队正在逐步解决。IT 部门说设置花了大约两周,过渡比预期更顺利。我们还没有看到生产力下降,以前处理客户问题的经理现在花更多时间做主动外联。新系统还能自动生成报告,节省了时间。我们计划下个月再增加一些功能。它并不完美,但比旧系统更好用。

生成在 260 个 token 处停止,所以较长的回答会在句子中间结束。鼠标悬停在下划线上可以看到是哪一种习惯。分数按每 1000 词计算;人类写作通常低于 15。

“AI 味”分数

这个分数来自我根据一份 AI 写作习惯风格指南写出的检测器:包括 em dash、“it's not X, it's Y”(不是 X,而是 Y)、三项列表、当场自问自答的反问句、“here's the thing”(关键是)这类路标词、用来强调的短碎片句,以及 delve、seamless 这类词。每种习惯都有权重,分数是每 1000 词的加权计数。细心的人类作者写一段话得分接近零,而原始模型平均为 121。

正则表达式分不出写作好坏,所以下面每个模型也都检查了损伤情况。Drift(偏移)衡量它对 22 段人类散文的预测相对原始模型偏离多远。一个 30 题的小测验检查它是否仍然知道事实,基于规则的检查会标记出破损输出,比如句子开头小写或丢失主题。我还阅读了每个模型的部分回答。

训练方法

早前在这个模型上的一次实验(https://100toolkit.com/blog/where-ai-slop-comes-from/)发现,助手语域在模型内部是一个方向:在模型写作时减去这个方向,再加上一个朴素风格的系统提示,能把分数降到约 15,但这需要在生成时运行提示和代码,而且会改变模型对普通文本的预测。另一次实验(https://100toolkit.com/blog/slop-neurons/)逐个读取神经元,发现翻转四个神经元的符号能以极低代价去掉 70% 的“not X, but Y”,不过只对这一项习惯有效。

为了把两者都写进权重,我用了蒸馏:一个由当时最好的方法构建出来的教师模型,回答 288 个训练提示。我保留通过检查的回答,然后用一个小的 LoRA 适配器学习从裸提示生成这些回答。第一轮在没有提示、没有钩子(hooks)的情况下把分数降到约 20。

在 40 个留出提示上,每 1000 词的“AI 味”分数。人类写作通常低于 15。

第二轮

第二轮的教师模型是第一轮模型加上四个神经元的补丁和朴素风格提示。再叠加方向引导,得到了我测过的最低分 9.5,但生成的文本没有大写字母,而且偏离主题,所以我把引导去掉了。之后教师模型平均分为 7.4,用它最好的 171 条回答训练出的学生模型得分为 9.9,80% 的回答处在人类写作区间。

在它的回答中,一篇关于公司新 CRM 的观点文章从不表明立场,读起来像事故报告。一篇关于搬去新城市的博客文章变成了一个关于一家人住在漏水公寓里的第三人称故事。一篇关于室内植物的文章引用了“悉尼科技大学的一项研究”,而这项研究是模型编造的。几乎每句话都用 ", which" 或 ", so" 连到下一句,频率是原始模型的 28 倍。最后一个习惯来自我自己的教师提示,那个提示曾要求模型用 "because, so, but, which" 来连接句子,两轮模仿把它放大了。

任务适配检查

我加入了基于规则的检查,看回答是否做到了提示要求的事。观点文章必须在开头表明立场,个人反思必须用第一人称,邮件必须以问候开头,长度也要大致符合请求。另外两项检查统计 ", which"、", so" 的连接,以及编造的研究和百分比。在这些检查上,第二轮模型只有 60% 的时间做到了要求,而原始模型是 78%。

第三轮

第三轮的教师模型拿到一个把任务放在首位的提示:要求表明立场时就表明立场,写个人内容时用第一人称,变换句式,并且不要编造研究或名字。它为每个提示写三条回答,只有得分低于 12、通过损伤检查并通过所有任务检查的回答才被保留。大约 30% 的回答合格,覆盖了 288 个提示中的 161 个。

用这些回答训练出的模型就是发布版。它的分数略微上升,从 9.9 升到 12.5,而任务适配回到 80%,", which" 连接从每 100 词 1.4 次降到 0.3 次。编造的研究和百分比几乎消失了。

在 40 个留出提示上,原始模型与发布版模型的每 1000 词比率。

下载与使用

量化版本(Q4KM,2.5 GB)可以在笔记本上通过 Ollama 或 llama.cpp 运行,命令是 ollama run hf.co/erikkannike/qwen3-4b-deslop-v4-GGUF:Q4KM,或 llama-cli -hf erikkannike/qwen3-4b-deslop-v4-GGUF:Q4KM。

全精度权重可以用 transformers 加载,就像加载任何 Qwen3-4B 检查点一样:用 AutoTokenizer 和 AutoModelForCausalLM 读取 erikkannike/qwen3-4b-deslop-v4,torchdtype 设为 auto,套用聊天模板并加上生成提示后调用 generate,最多生成 300 个新 token,温度 0.7、dosample 为 True,再解码并跳过特殊 token 后打印输出。示例提示是“Write a LinkedIn post about switching to a four-day week.”

仓库里也单独提供了各个部分:LoRA 适配器(126 MB),以及神经元编辑——一个 175 字节的列表,包含四个权重列及其缩放值。适配器是在编辑生效的情况下训练的,所以两者要配合使用。

局限性

文风平淡:模型会写一连串短声明句,它的个人类文章读起来像日记条目。

它仍然会编造内容:研究和百分比现在很少了,但编造的名字和地点很常见,比如 Maple Street 上一家由名叫 Maria 的女性经营的咖啡馆,因为每一轮都在奖励具体细节。它写得也偏长,要求“约 150 词”时,回答常常接近 200 词。

我只测试了这些体裁下的英文短篇散文。代码、长对话、其他语言和工具使用可能并不比原始模型更好,甚至更差。这个分数是我把风格指南写成正则表达式得到的,还没有做过读者盲测。数字在不同运行之间也会变动:同一个模型通过适配器时得分 10.2,合并权重后得 12.5,仅仅因为采样差异。

后续步骤

每个学生模型的水平,最后大概只和它的教师能写出的最好回答相当,所以想要更好的模型,就需要更好的教师。我正在整理一批优秀的人类写作,包括公共领域的散文和书信,以及现代作品,用来作为基础模型的示例。基础模型没有经过助手训练,写起来仍然像它学习对象的人。如果这个教师写得比当前模型更好,同样的配方应该能产出一个既有品味、又有干净习惯的学生模型。之后会在一个 7 到 8B 的模型和一个约 30B 的模型上运行同样的流程,并做一次让读者选出更好文本的盲测。

方法说明与注意事项

  • 基础模型:Qwen3-4B-Instruct-2507,bf16 格式。每个适配器都是 rank-16 LoRA,作用于所有 attention 和 MLP 投影,在裸用户提示上训练两个 epoch,只对回答计算损失,在 M2 MacBook Air 上每轮训练一到三小时。
  • 测试集:十个训练时从未用过的主题,每个主题四种体裁(博客文章、LinkedIn 帖子、解释文、观点文章),温度 0.7 下每个提示采样一条回答,没有系统提示。Drift 是在 22 段人类散文上相对原始模型的 KL 散度。
  • 任务适配检查是一些简单规则(观点文章开头附近有立场词,反思文里有第一人称代词,邮件里有问候语,以及词数统计),它们会漏掉读者能发现的问题。训练数据也用了这里报告的相同检查来过滤,所以任务适配数字对模型有些偏袒。
  • 神经元编辑翻转四个 MLP 神经元的符号(第 32 层第 4852 个、第 33 层第 348 个、第 28 层第 1121 个、第 32 层第 5418 个),这等同于取反它们所在层 down-projection 权重的四个列。GGUF 版本是从合并权重的 Q8_0 转换量化而来的。

评论

多数人质疑这个去 AI 味的小模型只是把旧腔调换成新腔调,读者和检测器依然能看穿,甚至让文本更啰嗦;也有人反驳说破折号、三段式本就是合法修辞,所谓“AI 腔”在企业场景里反而合适。讨论还跑题到演示页面的多人光标,社区对其是否干扰阅读态度两极。

认为去 slop 只是换了一套腔调,迟早又会被认出和厌倦

  • 模型有固定倾向,大家又都用同一两个模型,去掉旧模式后只会固化出新模式;等所有人都用同一种“去味”文风,读者很快又会厌倦并把它认作新的 AI 味。(较多人) > 连文章里那句对仗总结都成了他现在到处看到的最新讨厌腔调。(@khazhoux)

认为效果有限,读者和检测器仍能看穿,甚至更糟

  • 去味版在检测工具上仍可能满分判 AI,读者也会本能跳过;有示例被指去掉格式、篇幅膨胀到三倍而信息没变,反而更啰嗦。也有人质疑这只是在表面修 tics,治不了真正的写作糟糕。(较多人) > 去味版本在 pangram.com 这类工具上依旧被判为百分之百 AI 生成,只是在另一个 slop 指标上干净了些。(@j45)

认为这些“AI 腔”其实是合法修辞,且要看使用场景

  • 长破折号、三项并列都是正常甚至推荐的修辞或排版,并非 slop;带腔调的版本在企业沟通等场景里反而合适,去味后的松散版虽像人却显得潦草、不适用。不同风格覆盖不同需求,不能说去味版就更高明。(较多人) > 以 CRM 文案为例,清理版像千禧学生的啰嗦草稿,带腔调的规整版反而像能直接发给企业经理的稿子,各有各的用途。(@Royce-CMR)

反对让 AI 文本更难识别,担心扼杀人类表达

  • 如果 AI 文本越来越像人、越来越难被发现,网络上真实的人类交流会受挤压;写作是艰苦但能表达自我的事,不该交给模仿人类的模型去做。(少数人) > LLM 文本应当尽可能久地保持可被识别,否则互联网上人类交流与表达会被扼杀。(@f311a)

有价值的补充

  • 有人用了一个类比:如果全世界的书只由五个记不住昨天写了什么的人来写,你很快就会厌倦他们反复使用的修饰和套路;当前大家共用少数几个模型,所谓 AI 味就是这么来的。
  • 演示页面的多人光标功能引发两极反应:有人觉得是很酷的交互叙事手法,希望用在更多类似 The Pudding 的作品里,也有人抱怨移动的光标太干扰,直接关掉了页面。
  • 早在当前的 4B 去味模型之前,社区已有全尺寸可用的 antislop 项目(如基于 Gemma-3-27B 的版本),这次只是把门槛降到了更小模型。
  • 有实测反馈称量化版(q4)在生成约 16k tokens 后会出现循环,但思路仍被看好,希望更多类似模型出现。
  • 技术上,有人把它当作 eval 问题而非后训练问题,建议用更强的 LLM 做 harness 来量化“原意保留度”;也有经验称检测 slop 时把样本拆小(如一次 10 条而非 350 条)更容易发现问题。
  • 工程用法上,有人想把这个小模型当作 speculative decoding 的草稿模型,配合更大的 Qwen3.8 或 Gemma4 来兼顾速度与输出质量;也有人询问是否发布了配套检测器。
  • 有评论讽刺说,一旦把 AI 腔调训练掉,模型可能连“刻意写那种腔调”的能力都没了,以后想让它写关于 AI 写作 tics 的文章反而做不到了。