Hacker News 中文摘要

RSS订阅

AI内容在社交媒体上无处不在,尤其是领英 -- AI content is everywhere on social media, especially LinkedIn

文章摘要

社交媒体上AI生成内容泛滥,尤其以LinkedIn为甚。Pangram公司通过Chrome扩展程序帮助用户识别AI内容,研究发现每四个帖子中就有一个是AI生成的,这对用户注意力管理构成挑战。

文章总结

两个月前,我们推出了Chrome扩展程序,旨在帮助用户应对社交媒体上日益泛滥的AI生成内容。该扩展允许用户在浏览时扫描帖子,标记AI生成的内容,以便他们能更明智地分配注意力。作为一家以研究为先的公司,Pangram不仅致力于开发行业领先的AI检测算法,还持续追踪AI生成内容的风险和普及程度。社交媒体是研究中最具挑战性的领域之一,比新闻文章、研究论文或亚马逊评论更难分析,但它也至关重要,因为可能是AI生成内容的最大来源。

我们相信,理解这一问题有助于更好地应对它。因此,我们在扩展程序中加入了可选设置,让用户匿名分享扫描统计数据以支持研究。以下是基于最初几个月数据的关键发现:

  • 社交媒体上每四篇长文中就有一篇被标记为完全由AI生成。
  • 在所有被标记为AI生成的帖子中,三分之二来自领英。
  • 近一半的X/Twitter文章包含AI写作内容。

AI生成内容在所有社交媒体平台上都有出现,但长文受影响最严重。平均AI生成率为13.8%,但不同平台和内容长度差异显著。在五个平台中的四个上,长内容比短内容更可能由AI生成。所有平台中,超过250字的长文有25.72%被判定为完全AI生成。Substack是个例外,其完全AI生成内容的比例保持平稳,较长、更实质性的帖子反而略低于短帖。领英是AI饱和度最高的平台,超过40%的长文被标记为完全AI生成。若将混合AI与人类内容计入,X/Twitter情况最糟:近一半文章要么完全由AI生成(23.9%),要么为AI辅助(22.9%),仅53.2%的文章被标记为完全人类创作。

领英的AI内容占比在所有平台中最高。尽管领英帖子仅占扫描总数的三分之一,却贡献了近三分之二(62%)的AI内容。令人意外的是,人们在职业场合更愿意使用AI代笔,而在匿名或休闲平台则较少使用。领英还通过内置“用AI写作”按钮等方式鼓励AI使用。尽管领英高管宣布将用内部算法检测并降级AI生成帖子,但讽刺的是,该声明本身也是AI生成的。在我们的数据中,Reddit扫描量最大,占36.7%,但AI综合占比仅4.4%,这主要因为回复(占Reddit扫描项的72%)几乎全是人类创作(98.1%)。Reddit的顶级帖子AI生成率为11.6%,与X/Twitter的10.0%相当。领英也存在类似模式,但程度较轻:顶级帖子被AI生成的可能性是评论的1.35倍。不过,控制长度后,领英评论的AI比例反而略高于帖子;而Reddit的顶级帖子AI生成率仍是评论的5.25倍。

Reddit的AI-free回复揭示了反机器人策略的盲点。虽然Reddit的垃圾信息政策有效消除了自动生成垃圾回复的账户,但只抓住了最低质量的垃圾内容。顶级帖子虽仅占Reddit内容的四分之一,但受众影响力更大,且较低数量使AI生成的帖子能绕过基于频率的审核。

自2026年4月24日扩展程序上线以来,选择分享数据的用户帮助创建了包含1,002,627篇帖子的数据集,涵盖领英、Medium、Substack、X/Twitter和Reddit。每篇帖子仅计数一次,且只扫描超过50词的内容。所有帖子均使用Pangram 3.3模型分析,该模型误报率仅为0.01%。这一数据集直接反映了当前用户信息流中AI生成内容的状况。

结论是:AI写作已成为社交媒体上的普遍问题。这与我们在其他领域的观察一致——研究人员估计,开放互联网上35%的新建网站由AI生成或辅助。一个被未标注AI内容淹没的互联网令人担忧,但我们认为这并非不可避免。通过提供AI生成内容的透明度,我们希望帮助互联网用户重新掌控自己的注意力。

评论总结

根据评论内容,主要观点和论据总结如下:

观点一:LinkedIn等平台已被AI生成内容("AI slop")严重污染,导致用户体验下降。 - 评论2:"Can confirm, this pushed me to delete the LinkedIn a few months ago... Social media is not a job requirement for any position I'm interested in." - 评论6:"LinkedIn is basically unusable at this point... I've since deleted it and just use email notifications to see any notifications from recruiters." - 评论17:"Was just thinking today... the entire front page is just AI slop being applauded and liked... The whole thing needs to die so badly."

观点二:AI内容泛滥是经济驱动的必然结果,检测工具存在局限性。 - 评论5:"The question is not whether something is AI generated... Question whether it is human, the economics are exceedingly in the favor of this new normal." - 评论20:"Pangram doesn't work... There is no provable method to make a distinction between AI and human-generated other than the fact that AI-generated text tends to reek of pseudo-intellectual undergrad with a thesaurus." - 评论21:"Best get believing pal, because not only is it inevitable, it represents the last evolution in our societies output."

观点三:部分用户认为AI内容对LinkedIn原有低质量内容反而是"改进",或平台早已失去价值。 - 评论4:"On LinkedIn it's the only place where AI slop will be a huge improvement over the previous content." - 评论9:"Really no different than the content that is usually on LinkedIn. It's been a worthless dumpster fire for ten years at least." - 评论25:"Tbh I've always treated it as three things: 1) Glorified Rolodex... Reading the crap in the feed has never been a thing."

观点四:AI内容不仅存在于LinkedIn,还蔓延至X、Reddit、Instagram等平台,甚至影响人类写作风格。 - 评论12:"Maybe I don't use LinkedIn that much, but I saw it especially on X and Reddit... so many AI sloppish comments from people trying to farm karma." - 评论11:"I'm also noticing people mimicking LLM's speech patterns... sounding more and more like AI as the sum of all their conversations with Claude begins to rub off on them." - 评论17:"On Instagram... descriptions of sports videos or meme videos were 2 sentences, now they're entire theses."

观点五:AI检测工具存在偏见,可能误判非母语者的写作。 - 评论14:"Pangram really doesn't work that well... these tools are known to easily flag writing from people whose native language is not English."

观点六:少数用户对AI内容持积极或无所谓态度。 - 评论23:"I quit enjoy it tbf"(评分较低,但代表不同声音) - 评论4(已引用)认为AI内容是对LinkedIn原有内容的改进。

平衡性总结: 多数评论对AI内容泛滥持批评态度,认为其破坏平台价值、降低信息质量,并指出检测工具不可靠。少数观点认为AI内容对LinkedIn原有低质内容反而是提升,或平台早已失去价值。用户普遍对AI内容的经济驱动和不可逆趋势感到无奈。