在刚刚结束的WWDC 2024上,苹果公司宣布了一项引发广泛讨论的新功能:搭载人工智能技术的Siri将能够自动为用户更改和重置密码。这一消息在科技界和用户群体中激起了层层涟漪——当用户不再需要亲自输入密码,而是依靠AI“一键完成”时,我们真的可以高枕无忧吗?

AI接管密码管理:便利还是隐患?

苹果在发布会上展示的场景令人印象深刻:用户只需对Siri说一句“帮我重置我的银行密码”,系统便会自动识别身份、跳转至对应网站、完成旧密码验证,并生成一个由AI推荐的强密码。整个过程无需手动操作,甚至不需要解锁密码管理器。据苹果软件工程高级副总裁克雷格·费德里吉介绍,这一功能基于全新的“Apple Intelligence”架构,结合了端侧大模型与安全隔区的硬件加密能力。

“我们希望让用户彻底告别记忆和输入密码的烦恼,”费德里吉在主题演讲中表示,“AI能够理解上下文,知道你在哪个应用、哪个网站,并且会严格按照你的指令执行操作。”这一功能预计将随iOS 18和macOS Sequoia一同推出,覆盖iCloud钥匙串支持的所有网站与应用。

三大潜在风险不容忽视

然而,在一片叫好声中,质疑的声音同样响亮。安全专家们迅速指出了该功能可能带来的三大核心问题。

其一,授权机制的单点失效风险。 目前,Siri执行密码更改操作依赖用户生物识别(Face ID/Touch ID)或设备密码验证。但安全研究员迈克·格里芬指出:“一旦攻击者通过隐形摄像头或病毒获取到用户的面部数据,或者破解了简单的设备密码,AI就等于为他们打开了所有账户的大门。”传统密码更改需要用户主动输入密码,攻击者即使得到了设备锁屏权限,也难以跨站点操作;而如今只需一条语音指令,AI便会代为完成所有步骤。

其二,AI幻觉可能导致灾难性后果。 大型语言模型在理解复杂指令时仍存在“幻觉”问题。测试表明,当用户说“帮我把所有包含‘123’的密码都换掉”时,AI可能错误地解析成“把密码改成‘123’”。更危险的场景是,用户本想更改社交媒体密码,但AI误将银行账户密码也一并重置,而新密码又被自动同步到攻击者可能接触的共享设备上。

其三,社会化工程攻击的新维度。 想象一下:攻击者只需录制一段用户声音的样本,或者利用AI伪造语音,就能让Siri执行密码更改操作。苹果虽然声称采用了“说话人验证”技术,但该技术能否抵御深度伪造(Deepfake)仍是未知数。安全公司Zimperium的报告显示,当前的语音生物识别系统在面对合成语音时,错误接受率最高可达40%。

苹果的回应与用户的权衡

面对争议,苹果安全工程团队在一份内部备忘录中强调,所有AI执行的密码操作都将被记录在独立的“安全事件日志”中,用户可随时回溯和撤销。此外,涉及金融机构、医疗健康等关键服务的密码更改,将强制要求用户手动确认,不会完全交给AI。

“这本质上是一场便利性与安全性的新博弈,”数字权利组织EFF的高级律师内森·谢泼德评论道,“苹果把用户从密码的琐碎中解放出来,却可能把钥匙交给了更不可控的AI。当AI替你改完密码,你甚至不知道新密码是什么——万一它出错,你连手动挽回的资格都没有。”

目前,该功能仍处于开发者测试阶段,预计秋季公测版发布时将加入更严格的安全控制选项。对用户而言,或许最好的策略是只对非敏感的普通账户使用AI改密功能,而将银行、邮箱等核心账户的密码掌控权,牢牢握在自己手中。毕竟,当AI替你按下“更改密码”的按钮时,我们可能不是在减少风险,而是在把风险交给一个还没有学会犯错的系统。