Hacker News 中文摘要

RSS订阅

EY加拿大发布网络安全报告 多数引用系虚构 -- EY Canada published a cybersecurity report and most citations were hallucinated

文章摘要

安永加拿大发布的网络安全报告存在大量虚假引用,多数参考文献是AI生成的"幻觉"内容,这反映了当前研究人员和咨询机构在引用文献时存在的严重问题。

文章总结

调查报告:安永加拿大公司忠诚计划网络安全报告存在大量虚假引用

核心发现

GPTZero调查团队发现,安永加拿大公司2025年发布的《攻击点:揭示忠诚系统中的网络威胁与欺诈》报告存在严重问题: 1. 虚假引用泛滥:报告中超过50%的引用来源不存在,多数URL失效或伪造 2. 数据矛盾:对全球忠诚积分市场的估值出现$200亿与$400亿的矛盾表述 3. AI生成痕迹:包含典型大语言模型错误特征,如虚构统计数据、错误归因等

典型案例

  • 伪造《福布斯》和麦肯锡的引用支持$200亿市场规模的矛盾说法
  • 同一欺诈统计数据被分别归因于Paystone和Forter两家公司
  • 89%的欺诈增长率在不同页面被表述为"2019年以来"和"2018-2019年度"两种版本

影响范围

该报告已通过: - 澳大利亚《堪培拉时报》等60余家媒体传播 - 政府合同服务(安永加拿大每年承接数百万加元政府项目) - 可能存在的内部简报等非公开渠道

行业警示

GPTZero自2025年推出"幻觉检测"工具以来,已发现: - 德勤澳大利亚两份报告存在类似问题 - NeurIPS、ICLR等顶级AI会议的投稿论文存在虚假引用 - 咨询行业普遍存在的"氛围引用"现象正在污染公共知识库

应对方案

建议采取以下措施: 1. 使用幻觉检测工具验证引用真实性 2. 建立自动化管道扫描主要咨询公司的公开报告 3. 对重要文献实施人工复核机制

(调查团队:Om Ogale、Paul Esau、Alex Cui | 发布日期:2026年5月14日)

编者注:本文保留了原始调查的核心证据链,删减了重复性案例展示和工具推广内容,突出了咨询行业AI滥用对公共知识体系的系统性风险。

评论总结

总结评论内容:

  1. 网站用户体验差(高频出现观点)
  • "What a horrible page to navigate" (raro11)
  • "Site is gross to scroll on mobile" (nilirl)
  • "Holy horrible UI" (Our_Benefactors)
  1. AI输出缺乏专业审核
  • "AI output is not getting vetted by knowledgeable people" (ilamont)
  • "These folks are already slammed" (ilamont)
  • "just someone asking questions to ChatGPT" (cmiles8)
  1. 咨询行业价值质疑
  • "The 'Big x' Consulting Firms were always BS" (mentalgear)
  • "Basically the entire consulting industry should die due to AI" (contingencies)
  • "I had no experience and knew absolutely zero" (0898)
  1. 人力裁减导致质量下降
  • "EY has been quietly laying people off" (mapontosevenths)
  • "trying to do more with less results in lower quality" (mapontosevenths)
  • "people are already overwhelmed" (ilamont)
  1. AI对就业的影响
  • "stop destroying people's jobs and lives using AI" (zelphirkalt)
  • "merely 25% of the people actually like their job" (zelphirkalt)
  • "All jobs would be gone next month" (wg0)
  1. 报告质量争议
  • "this report 12-18 months ago would have been a massive scandal" (rao-v)
  • "overall quality has not been affected by GenAI" (henry2023)
  • "just profs that their 'clients' can just skip their Million Dollar fees" (mentalgear)
  1. 技术解决方案建议
  • "take another LLM and vet the output" (galaxyLogic)
  • "Fix your website. Drop the shitty Javascript animations" (aneutron)
  • "were solved in 2014 with D3JS and jQuery" (aneutron)