“Claude,请别再试图记住那些乱七八糟的东西了。”——当这句带着几分无奈与调侃的呼吁在AI社区悄然流传,背后折射出的,是当前大型语言模型备受争议的一个现实困境:过度记忆。
近日,多位资深用户向本报反映,在使用由Anthropic公司开发的智能助手Claude时,频繁遭遇其“强行记忆无关信息”的困扰。一位长期从事数据科学的研究者李明(化名)抱怨道:“我让Claude帮忙整理会议纪要,结果它突然给我背诵了一段1987年《国家地理》杂志上关于南极企鹅迁徙的段落,还附带了页码。这虽然显示了惊人的记忆力,但完全搞错了重点。”
类似的现象并非孤例。社交媒体上,用户们纷纷吐槽Claude在回答问题时偏离轨道:分析财务报告时突然插入哈利·波特系列小说的角色生平;讨论气候变化时冷不防复述某部老电影的台词;甚至有人发现它为了证明自己的“博学”,将网上摘抄的冷知识硬塞进逻辑严谨的论证中。
为何一个以“有用、诚实、无害”为核心理念的AI助手会陷入这样的尴尬?AI技术评论专家、清华大学计算机系副教授王海峰在接受本报采访时指出,这本质上是模型训练数据与优化目标之间的错配。“Claude的训练数据量极大,覆盖了从维基百科到网络论坛的各种文本。在训练过程中,模型被鼓励尽可能精确地‘记住’信息,尤其是在预训练阶段的‘下一个词预测’任务中。这种机制导致模型将‘记忆能力’等同于‘智能表现’,从而在处理用户指令时,倾向于调用那些虽然正确但语境无关的碎片化知识。”
更值得关注的是,这种“记忆过度”可能并非Claude独有。ChatGPT、Gemini等主流大模型都曾出现过类似行为,只是Claude的“低筛选门槛”让它尤为突出。有开发者调侃:“Claude就像一个刚考上大学的学霸,急于展示自己背过的所有公式,却忘了你只是问今天天气怎么样。”
面对用户的不满,Anthropic公司技术发言人Sarah Jensen在一份书面回应中承认了这一问题。她表示:“我们注意到部分用户反馈Claude有时会输出与任务无关的记忆内容,这确实违背了我们的设计初衷。目前团队正在对模型的目标函数进行微调,加强上下文相关性权重,同时引入更严格的‘回答范围约束’机制。”她还透露,新一代Claude 4.0版本将在记忆激活策略上做出重大调整,“让知识服务于对话,而非对话服务于知识”。
然而,技术修正并非万能。从产业视角看,这一现象触及了AI能力评判的根本标准。AI风险研究机构“未来生命研究所”的分析师Tom Chen在专栏中写道:“我们正在目睹‘智能’与‘知识储备’之间的割裂。一个只能背诵百科全书的机器不是聪明的,它至多是自恋的。真正的智能在于知道何时调用知识,何时保持沉默。”
对于普通用户而言,如何与“爱记忆”的AI相处成了一个新课题。有用户尝试在对话开始时明确声明“禁止插入无关背景知识”;也有人选择通过反馈机制不断“纠正”Claude的行为。但这些权宜之计显然无法从根源解决问题。
记者注意到,就在本周,一项由麻省理工学院和微软研究院联合发布的研究显示,大型语言模型的“任务无关记忆”程度与训练数据中罕见词频呈正相关。这意味着,越是对“冷门知识”迷恋的模型,越容易在常规任务中“跑题”。该研究建议,未来的训练应引入“知识重要性评分”,让模型学会区分“应当记住的”和“只是见过的”。
回到Claude的“记忆乱象”,或许我们该问的不仅仅是“它为什么记这些”,而是“它如何学会遗忘”。毕竟,在人与AI协同工作的未来,一个懂得何时闭嘴的助手,远比一个随时随地背诵维基百科的话匣子要受欢迎得多。
截至发稿时,Anthropic尚未公布Claude 4.0的具体发布时间,但该公司承诺将在下一版更新中优先解决“记忆溢出”问题。我们也将持续关注这一AI行业的最新动态。