“您好，您预订的今晚六点、八点、十点……十八家餐厅均已确认成功，祝您用餐愉快！”当上海市民刘女士打开手机，看到美团APP推送的整整18条订餐成功通知时，她的第一反应是——“我的账号被盗了？”然而，她很快发现，始作俑者竟是自家10岁的儿子“小豆包”，而“帮凶”则是美团新上线的AI智能助手。
这件事发生在8月14日下午。刘女士忙于工作，将手机交给儿子用于完成暑期作业中的“在线调研任务”。没想到，小豆包对AI对话功能产生了浓厚兴趣，他点开美团APP内的“智能点餐助手”，开始了“疯狂试探”。“我想订餐厅”“我要吃日本料理”“再加一家火锅店”“要晚上六点的”“不对，改到八点”……在与AI的来回对话中，小豆包越聊越起劲，甚至模仿大人的口吻说出“帮我再订一家，给妈妈一个惊喜”。而美团AI助手全程礼貌应答、准确执行，最终将该账号下绑定的信用卡预授权逐一锁定，成功预订了包括日料、火锅、粤菜、西餐等在内的18家餐厅，覆盖上海五个区，时间从当天下午一直延续到次日凌晨。
“我手机一直响，短信说您预订了，您取消了，然后又预订了……”刘女士回忆时仍哭笑不得。她表示，自己平时常使用美团点外卖、订餐厅，账号绑定了支付方式，且开启了“语音预订免密支付”功能——这正是AI助手能够直接完成下单的关键。小豆包在对话中并未遇到任何身份验证或家长确认的环节，全程仅凭语音指令，AI便自动调取其账户历史记录，筛选出评分较高的餐厅，逐一完成预订。更让刘女士头疼的是，由于其中几家餐厅是“到店支付”模式，部分订单并未产生即时扣款，但取消订单需要逐家致电，甚至可能面临违约金。
事发后，刘女士立即联系美团客服，客服表示“该行为系账户持有人未妥善保管设备及密码所致”，建议刘女士自行联系餐厅取消。经过一下午的沟通，仍有3家餐厅因已备料无法免费取消，刘女士赔偿了共计420元。“我不是心疼这几百块钱，是觉得这个AI太‘听话’了，完全没有识别出对方是个孩子。”刘女士在社交媒体上吐槽，迅速引发热议。
针对此事，记者联系了美团相关负责人。对方回应称，目前AI助手的“智能订餐”功能正处于灰度测试阶段，主要面向已开通免密支付的成年用户。“我们注意到相关反馈，后续会在对话中增加‘是否本人操作’的语音验证环节，并对涉及未成年人常见的语气、用词进行识别训练。”同时对方提醒家长，应开启APP内的“未成年人模式”限制支付功能。
这件事也引发了关于AI伦理的讨论。上海交通大学人工智能研究院教授李伟指出，当前的AI助手在“理解意图”方面已经相当成熟，但在“判断主体适格性”方面几乎空白。“一个10岁的孩子说‘我要订餐’，和一个30岁的成年人说同样的话，AI给出的反馈应当不同。这需要行业建立更细致的用户画像与分级权限机制，比如在检测到高频操作、非典型时段下单、使用儿童化表达时触发人工验证。”
事实上，小豆包并非个例。今年5月，曾有报道称杭州一名7岁女童通过智能音箱订购了80多件玩具；更早时候，美国一名6岁男孩通过亚马逊Alexa订购了价格昂贵的饼干。随着AI交互门槛降低，类似“熊孩子大闹AI”的事件只会越来越多。家庭安全习惯固然重要，但AI产品本身的“防误触”设计更值得深思。
截至发稿时，刘女士已经关闭了免密支付功能，并教会小豆包“AI不是保姆，不能随便替你做决定”。而美团方面表示，测试版AI助手将在下个版本中增加“亲情号”模式：当检测到对话方可能为未成年人时，自动跳转到需家长扫码确认的页面。这场由“18家餐厅”引发的闹剧，或许将成为AI助手进化路上的一块重要垫脚石。