Hacker News 中文摘要

RSS订阅

LLM 被比作认知病毒 -- LLMs as a Cognitive Virus

大型语言模型(Large Language Model)的快速普及令其表现出类似认知病毒的传播特性:模型生成的内容反复进入用户的思维与表达,改变认知习惯,并借助社交网络在人群中扩散,形成一种介于文化与技术之间的新型影响机制。

正文

大语言模型(LLM)正快速融入人类文化,重塑信息的生产、传播和使用方式。本文提出可以用病毒的类比来理解其扩散过程:LLM的使用在人群中传播,逐渐嵌入认知和文化实践之中。

我们模拟了未耦合、已耦合和持续依赖用户之间的转换,结果显示,社会传播、恢复和集体强化之间的相互作用可能产生临界点和技术锁定。一个核心后果是出现失控动态:一旦跨越某个关键阈值,采用率的微小提升就会触发人群层面的快速转变,导向持续依赖,并导致认知能力的急剧下降。

不过,同一框架也指出了实现“认知免疫”的条件,即降低传播率并促进可逆性。这些结果表明,LLM的采用可能涉及非线性的集体转变,对认知自主性产生重要影响。

评论

讨论社区对“大语言模型是认知病毒”这一论调分歧明显,多数人认为类比牵强、过度悲观,少数人对依赖大语言模型导致能力退化表示担忧。

认为用病毒类比大语言模型既不严谨也不新鲜

  • 不少用户指出,从模因或者文化传播的角度看,任何流行事物都可以被类比成病毒,只是视角问题,并非大语言模型独有的特性(较多人)。 > 这种思考角度很有意思,但表述太有煽动性也不够客观,毕竟从进化生物学视角看,几乎所有思想交换都能被看作病毒,这正是模因概念的来源(@Murfalo)
  • 有用户认为大语言模型只是新的工具,类比汽车、烹饪等人类早已依赖的事物,过度强调其“寄生性”没有特别意义(较多人)。
  • 部分用户吐槽这类讨论很像科幻作品《蠢蛋进化论》里的情节,把对基础工具的讨论上升到末日层面十分荒诞(少数人)。

认为大语言模型确实会带来认知层面的负面效应

  • 有用户提出“认知债务”概念,认为过度依赖大语言模型会导致人们不再理解系统和基础设施的核心逻辑,需要量化这种代价才能找到应对方法(少数人)。
  • 有用户结合身边观察提到,上一代人缺乏区分人工智能生成内容和高质量信息的认知防御能力,合成内容不会触发恐怖谷反应,容易让虚假信息指数级传播(少数人)。
  • 有开发者分享自身经历,称过度追求大语言模型驱动的生产力会让人失去原本在做实际工作时自然获得的学习过程,所在公司也出现了类似倾向(少数人)。 > 我现在确实更依赖大语言模型了,读文章都让它帮我总结成幻灯片,我也认同我们正走在失去很多东西的路上,只追求效率就会丢掉原本的学习过程(@FailMore)

认为大语言模型是工具,利弊取决于使用方式

  • 多数用户认为大语言模型本身无好坏,懂使用方法的人是高效工具,过度依赖的人才会变成拐杖,同时它也能帮助人探索更有趣的领域,提升整体生产力(高赞)。 > 会用的人觉得它是神器,只会依赖的人才会被它拖垮,我现在周末都在用它帮我做WebXR相关的新项目,还能边做边学3D渲染知识(@Suhinnall27、@iforgotmypasswo)
  • 有用户类比书写削弱听觉记忆、计算器降低心算能力的历史,认为大语言模型确实会削弱部分编程技能,但整体是净收益,且相关能力在脱离工具后可以快速恢复(较多人)。
  • 有从业者认为当前过度使用大语言模型生成需求文档导致质量下降只是过渡阶段,中长期只有能结合人工智能做好逻辑应用的人才能留下来(少数人)。

质疑研究本身的合理性与立场

  • 有用户认为研究结论过于简化,从进化角度看智能是人类核心竞争优势,认知卸载不会带来失控的负面效果,就像工业化没有让人类变弱反而更健康长寿(较多人)。
  • 部分用户对研究来源持负面态度,认为来自欧洲机构的研究结论带有偏见,欧洲在科技领域本就落后,相关结论可信度不高(少数人)。
  • 有用户直接表示不理解研究逻辑,甚至对参与研究的知名学者名字出现在文中感到失望(少数人)。

有价值的补充

  • 有用户指出大脑本身就有状态和信息的镜像机制,要完全避免所谓的“认知病毒”只能极端隔离,而这反而会诱发其他精神疾病,没有实际意义。
  • 有用户提到苏格拉底早就批评过文字会让人产生遗忘、不再从内部回忆事物,当前对大语言模型的担忧和这种古老质疑逻辑完全一致。
  • 有用户分享自己在大语言模型生成训练数据前,就基于二十年无人工智能的编程经验,在思维和代码层面构建了“小精灵”认知结构,随着市场认知提升,这种“免疫”方法价值越来越高。