一项最新研究揭示了一个令人不安的现象：当人们借助AI系统的建议进行决策时，尽管准确率大幅下降，他们的自信度却显著提升。这种“越错越自信”的认知偏差，正在对AI辅助决策的实际效果提出严峻挑战。
研究揭示：AI辅助适得其反
据《自然·人类行为》期刊发布的研究报告，科研团队通过一系列实验发现，在多个决策任务中，接受AI建议的参与者平均准确率仅为未接受AI建议者的三分之一，但他们的主观自信水平却达到了未接受AI建议者的两倍。
这项由麻省理工学院和哈佛大学联合开展的研究历时18个月，涉及超过2000名参与者。实验涵盖了医学诊断、法律判断、金融投资、新闻真伪辨别等多个领域。在每个场景中，参与者被分为三组：独立决策组、AI建议组和AI强制采纳组。
结果显示，AI建议组表现最差：参与者虽然在主观上感觉“更有把握”，但决策质量在统计上显著低于独立决策组。更令人担忧的是，当他们得到错误但表达自信的AI建议时，人类往往不加批判地接受，甚至在后续独立任务中仍然坚持这些错误判断。
认知失调：为何越是错误越自信？
研究第一作者、哈佛大学认知科学博士张伟指出，这种现象源于“认知惰性”与“自动化偏见”的叠加效应。“人类大脑在接收到看似权威的AI建议时，会倾向于减少自身的认知努力，将思考负担外包给机器。当AI给出的建议与人类直觉一致时，他们会加倍确信；即便AI建议有误，人类也会自我说服——‘机器不可能错得这么离谱’。”
实验数据表明，在AI给出错误建议的情况下，约72%的参与者选择接受该建议并对其准确性给出“较高”或“非常高”的评分。而在没有AI参与的对照组中，仅有31%的参与者对自己的错误判断持类似自信。
美国心理学会前主席丽莎·费尔德曼博士评论称：“这是典型的‘达克效应’数字化变体——能力越低的人，越容易高估自己。现在，AI成了这个效应在集体层面的放大器。”
场景差异：高门槛领域受害最深
值得注意的是，AI建议的负面影响在不同领域存在显著差异。在医学诊断等高门槛专业领域，影响最为严重：参与者在AI辅助下的误诊率从独立判断的18%飙升到47%，同时自信度却从43%提升至82%。专业医生参与者的表现虽优于普通人群，但同样受到AI建议的影响，误诊率上升了约140%。
“医生在拿到AI影像分析结果后，往往会不自觉地依赖这个‘第二意见’，从而减少了自己仔细阅片的注意力投入。”参与研究的放射科医生詹姆斯·卡特表示，“最危险的是，当AI结果是错误的，医生不仅相信它，还会在病历里为自己的诊断寻找合理解释，进一步强化错误。”
在新闻真伪辨别测试中，AI建议使参与者的准确率从独立判断的65%下降到42%，但自信度从51%上升到76%。这意味着，AI在对抗虚假信息时可能适得其反——错误地“背书”了假新闻。
专家警告：需重新设计人机协作框架
该研究引发了对当前AI应用模式的广泛质疑。伦敦大学学院人机交互教授埃琳娜·马丁内斯指出：“我们必须认识到，AI辅助不是简单地把建议推送给用户就行。现有的交互设计忽略了人类认知的生物限制——我们天生容易受权威暗示，而这种暗示在AI算法中得到了放大。”
研究者建议从多个层面改进人机协作机制：首先，AI系统在给出建议时应当附带置信度评估，让用户了解其可靠程度；其次，交互设计应引导用户先进行独立判断，然后再参考AI建议，而非直接呈现“答案”；最后，针对高敏感领域，应当强制用户进行“逆向推理”——要求用户解释为何同意或反对AI的建议。
“这项研究颠覆了一个普遍认知：以为有AI帮助就能做得更好。”张伟总结道，“现实是，人类与AI的协作需要精心设计的认知接口，否则，3倍准确率下降和2倍自信提升的讽刺现象将成为常态，而非个例。”
目前，多家科技公司已表示将重新审视其AI产品的交互逻辑。苹果、谷歌和微软的AI伦理部门均已联系研究团队，探讨将研究成果应用于产品改进的可能性。与此同时，医学和法律等专业协会也在紧急制定AI辅助决策的行业规范，以防止“越帮越乱”的悲剧发生。