近日,一则“男子利用AI生成烂水果图片,在多家电商平台恶意申请‘仅退款’成功上百次,最终导致其所在全县商家账号遭平台集体封禁”的消息引发广泛关注。据记者调查,涉事男子来自江西省某县,其行为不仅让平台损失数万元,更让该县数千名正常经营的农户和商家无辜“躺枪”,被迫暂停线上销售。
AI伪造“烂果” 百次退款获利
今年4月初,该县水果电商从业者刘某(化名)偶然发现,部分电商平台对“生鲜坏果”的退款审核较为宽松——只要买家上传腐烂水果照片,商家往往直接同意“仅退款”以维护信誉。刘某随即产生歪念:能否用AI生成“烂水果”图片,批量申请退款?
刘某通过某款AI图像生成软件,输入“腐烂、发霉、流汁的水果”等关键词,短短几分钟便生成数十张逼真的坏果照片。他将这些照片分批上传至多个电商平台,以“收到的水果全部腐烂”为由,申请对每单几十元的订单进行“仅退款”。由于照片细节高度真实,平台自动审核系统未能识别异常,刘某在两个月内累计申请退款成功180余次,非法获利近3万元。
异常行为触发平台风控 全县遭“连坐”
然而,AI生成的图片并非完美无缺。据某电商平台安全负责人李经理介绍,刘某上传的部分照片存在光照角度异常、水果品种与订单不符等问题。平台在复盘中发现了这批高度相似的“烂果图片”,随即调取后台数据,发现所有异常订单均来自同一县域的IP地址,且收货人信息高度重叠。
“基于风险控制规则,平台暂时对来自该县域的所有商家账号进行了限制——暂停新订单、冻结资金提现,并开启‘人工审核退款’流程。”李经理向记者表示,此举旨在防止更大范围的欺诈行为,但同时也导致该县约3000家正常经营的水果、农产品电商账号受影响。
无辜商家叫苦:“我们的水果根本不烂”
4月15日,记者联系到该县水果种植合作社负责人王先生。他无奈地说:“我们合作社上百户果农,全靠线上销售。这两天订单突然全停了,一问才知道是被同一个人害了。我们的水果每天新鲜采摘,发货前还要拍视频留证,现在却连解释的机会都没有。”
另一位网店店主陈女士更是气愤:“我店里卖的是赣南脐橙,发货时都套了保护网。现在平台说全县账号风险高,要我们逐个提交保证金、签署承诺书才能解封。这损失谁来赔?”
当地电商协会秘书长张伟表示,刘某的行为已涉嫌诈骗,协会将协助受害商家向警方报案,同时呼吁平台建立更精准的风控机制。“不能因为一条鱼腥了一锅汤。全县成千上万诚实守信的经营者,不该为一个人的违法行为买单。”
专家提醒:AI技术滥用风险不容忽视
针对此事件,中国互联网协会法律顾问赵明指出,利用AI生成虚假证据实施诈骗,性质恶劣。“根据《刑法》,诈骗金额达到3000元以上即可立案。刘某非法获利近3万元,已涉嫌刑事犯罪。”他同时提醒,电商平台也应完善技术审核手段,避免“一刀切”风控误伤正常商户。
目前,当地公安机关已介入调查,刘某因涉嫌诈骗罪被采取刑事强制措施。涉事电商平台表示,将加快对正常商家账号的解封流程,同时上线“AI虚假图片识别模型”,从源头遏制同类欺诈行为。
截至发稿时,该县已有超过2000家受影响商家完成人工核验,恢复线上经营。但这场由一名“AI骗子”引发的风波,留给所有从业者的警示却远未结束。