近日，一起由人工智能技术引发的恶作剧事件在社会上引发广泛关注。一名江苏南京的年轻女子李女士因接听到一段由AI合成的“男友车祸求救”电话，误以为真，情绪激动之下向警方报案。然而，警方调查后发现，所谓的车祸事件纯属子虚乌有，而这场闹剧的幕后黑手竟是李女士男友的朋友——出于“玩笑”目的，利用AI技术伪造了这起事故。
据了解，事件发生在9月15日晚上9点左右。李女士在家中突然接到一个陌生号码来电，电话那头传来了她男友张先生急促且痛苦的声音：“我出车祸了，快来救我！”李女士听后情绪失控，立即拨打了110报警。警方迅速启动应急机制，调取周边监控并派员赶赴现场。然而，经过近两个小时的搜寻，警方始终未能找到所谓的事故现场。
“我们在报警人提供的地点周围进行了地毯式排查，没有发现任何车祸痕迹。”负责此案的南京市公安局江宁分局民警王磊回忆道，“随后我们联系上了李女士的男友张先生，结果他正在家中与朋友聚餐，毫发无伤。”
面对警方的询问，张先生起初也是一头雾水。经过进一步调查，真相逐渐浮出水面。原来，张先生的朋友赵某——一名熟悉AI技术的程序员——在聚餐时与张先生玩笑打赌，称“我能用AI让你女朋友立刻报警”。为了验证自己的“技术实力”，赵某偷偷录制了张先生平时说话的声音片段，利用一款生成式AI工具合成了求救语音，随后通过改号软件拨打了李女士的电话。
“对方的声音实在太像了，语气、音调都和我男朋友一模一样，我根本没有怀疑。”李女士在接受记者采访时仍然情绪激动，“我当时真的吓坏了，完全没想到这会是假的。”
这一事件不仅令李女士身心俱疲，也占用了宝贵的警务资源。警方表示，赵某的行为虽然“出发点是开玩笑”，但已经构成扰乱公共秩序。根据《中华人民共和国治安管理处罚法》相关规定，赵某因“虚构事实扰乱公共秩序”被处以行政拘留五日的处罚。同时，警方也对李女士进行了批评教育，提醒她在接到可疑电话时需冷静核实，切勿盲目报警。
“AI技术的发展带来了许多便利，但也应当警惕其被滥用的风险。”南京信息工程大学法学教授张明表示，此案暴露出当前AI技术在伦理和法律监管方面的短板。他呼吁加强对生成式AI工具的使用规范，尤其是避免其被用于伪造身份、制造恐慌等违法活动。
事实上，这并非个案。近年来，随着AI语音克隆、深度伪造等技术的普及，类似“换脸诈骗”“合成语音勒索”等案件时有发生。今年7月，广东一名男子就曾利用AI合成“领导声音”拨打诈骗电话，成功骗取企业账户资金50余万元。专家指出，AI恶作剧虽看似“无害”，但其对个人心理和社会秩序的冲击不可小觑。
“我们必须树立正确的AI使用观。”中国人工智能学会伦理委员会委员张涛指出，“技术本身是中性的，但使用者的动机决定了它的社会影响。AI不应成为恶作剧的工具，更不该被用于诈骗、造谣等违法犯罪行为。”
目前，涉事AI软件平台已表示将优化声音合成审核机制，并提醒用户合理合法使用技术。李女士也在社交媒体上发布提醒：“希望大家重视技术与道德的关系，不要再有人像我一样被AI骗到。”
面对AI深度介入日常生活的趋势，公众也应提高警惕。警方建议，收到涉及人身财产安全的紧急信息时，应尽量通过多渠道核实，如与当事人本人视频通话、保留出警记录等，避免因过度信任技术而落入陷阱。
在笑声与愤怒交织中，这起“AI假车祸”的闹剧落幕了，但关于技术边界的讨论才刚刚开始。