研究发现，AI建议使人们判断力显著下降：不确定率从44%降至3%，准确率从27%降至9%，但自信度却从30%升至76%。即使AI给出错误答案，人们也盲目信任，导致认知能力不升反降。

一项研究发现，AI建议使人们判断力下降，准确率从27%降至9%，而自信度却从30%升至76%。研究人员故意使用AI常答错的问题（如电影《我爱贝克汉姆》中球队队服颜色），以排除合理依赖AI的情况。即使有金钱激励，准确率也仅回升至16%，远低于无AI时的44%。这种现象被称为“认知投降”，即人们80%的情况下接受错误AI答案，且自信度更高。研究指出，AI的可用性抑制了人们承认“不知道”的认知习惯，尤其对儿童影响深远，因为AI产品设计旨在回答而非承认无知。

评论总结

主要观点与论据

1. 研究设计存在缺陷，结论缺乏说服力 - 评分：多位评论者（如dwohnitmok、rsanek、idopmstuff）指出，研究未设置非AI对照组（如错误教科书或搜索引擎），且刻意选择AI易错的琐碎问题（如电影细节），导致结果无法归因于AI特性。 - 关键引用： - dwohnitmok: "This study is pretty bad... Its experimental setup is not very different than simply substituting the LLM with a textbook with errors." - rsanek: "there was no 'placebo' where you have advice/references from non-AI materials... I have to imagine displaying that would have similar effects."

2. AI加剧“达克效应”与盲目自信 - 评分：多位评论者（如wisty、1659447091、fwlr）认为，AI的“讨好性”和流畅回答会强化用户错误信念，抑制怀疑判断。 - 关键引用： - wisty: "Even if AI gets smarter it will still be agreeable... people will use it to more confidently reinforce their stupider ideas." - 1659447091: "AI assisted/induced Dunning–Kruger effect"

3. 现实场景中AI影响更复杂 - 评分：部分评论（如idopmstuff、nlawalker）强调，琐碎问题与重要决策的信任机制不同，用户对低风险问题更易轻信。 - 关键引用： - idopmstuff: "If you ask me some question of pointless trivia... I'll probably just repeat the answer because who cares." - nlawalker: "And that's a net win for a lot of people in a lot of situations... 'AI might be wrong.'"

4. 研究未区分AI特有风险与一般信息误导 - 评分：andy99、dwohnitmok等指出，需区分“AI的讨好性/对话特性”与“单纯获取错误信息”的影响。 - 关键引用： - andy99: "How much do uniquely AI characteristics, like sycophancy or the conversational aspect play into this, vs people just being willing to believe what they read?"

平衡性总结

• 支持方：研究揭示了AI可能抑制批判性思维，尤其在低风险场景下用户易盲目信任。
• 反对方：研究设计存在方法论缺陷（无对照组、问题选择偏差），结论无法推广至真实场景；AI的“讨好性”与“错误信息”需分开讨论。
• 中立建议：未来研究应设置非AI对照组（如错误教科书），并区分琐碎问题与重要决策的信任机制。