本报广州7月20日电(记者 陈志远) 一段号称“南沙大桥公交车坠桥”的短视频近日在多个社交平台传播,引发社会广泛关注和部分民众恐慌。经广州市公安局、市交通运输局及网信部门联合调查核实,该视频画面并非真实事件记录,而是利用人工智能技术生成的虚假影像。目前,公安机关已依法对视频制作者及相关传播责任人立案调查。
“惊险瞬间”实为AI合成
记者看到,这段被大量转发的视频时长约15秒,画面显示一辆公交车从南沙大桥桥面冲破护栏坠入珠江。视频中模拟了公交车坠落、水花溅起等场景,部分画面声音混杂着撞击声和惊呼声。由于画面处理相对逼真,初期引发不少网友转发和担忧。
然而,广州市交警支队很快发现其中异常。经专业技术人员对视频进行帧级分析,确认存在多处明显AI合成痕迹:包括车身动态光影与桥面环境不匹配、坠桥后水花物理形态反常、桥体护栏破坏细节缺失等。更关键的证据是,AI生成的视频中车体颜色、车牌号等信息均无法对应任何在广州运营的公交线路。
涉事者目的为“博眼球引流”
经警方连夜工作,确认视频首发者为31岁的某科技公司员工刘某。据刘某交代,他因近期对AI视频制作产生兴趣,利用公开的开源视频生成模型,结合南沙大桥景观照片和一段公交行驶视频作为素材,使用个人电脑生成了这段视频。为增加可信度,他还在视频中加入了“广州新闻”字幕。
刘某称,自己最初只是“觉得有趣、想看看能有多少浏览量”。然而,视频一经发出,迅速在多个平台被大量转发,部分账号甚至配上“突发重大交通事故”等文字发布,进一步扩大了不实信息的影响范围。刘某表示,对视频引发的大范围误传和公众恐慌“感到非常后悔”。
官方紧急辟谣 强调“科技伦理”教育
事件发生后,广州市公安局立即通过官方微博、微信公众号及交通广播等渠道发布辟谣声明。广州市网信办也紧急约谈相关社交平台,要求立即屏蔽、清理不实视频及相关链接,并依法对传播该视频的账号采取限制功能、封禁等处置。
广州市交通运输局相关负责人表示:“经核实,7月20日全天,全市在运营公交线路均无发生任何车辆坠桥事故。请广大市民放心乘坐公共交通工具。”
广州市委网信办网络安全与信息化处处长张明贤在新闻发布会上表示,近年来,AI技术的普及使得虚假信息的制作门槛大幅降低,传播速度更快、迷惑性更强。“这次事件是一个警示。针对AI技术可能被滥用于制造虚假信息、扰乱社会秩序的问题,我们将进一步加强对相关技术应用的规范管理,并推动在全社会开展‘技术伦理与信息素养’教育。”
平台加强AI内容标识 公众需警惕“眼见为虚”
记者注意到,涉事短视频在被举报和核查后已被相关平台标记为“疑似AI生成内容”。目前,多家社交平台已更新社区公约,明确要求用户发布使用AI、生成式人工智能技术制作的视频、图片等时,必须进行显著标识。若未标识并造成误导,平台将对其内容进行限流、下架处理,并可能对账号实施处罚。
此案中,刘某制作并传播虚假信息,违反了《中华人民共和国网络安全法》《中华人民共和国治安管理处罚法》的相关规定。警方表示,将依法追究其法律责任。律师提醒,利用AI制造假新闻、散布谣言,扰乱社会秩序,可能面临行政拘留、罚款,情节严重者甚至可能触犯刑法。
深度观察:AI造假时代,如何守护信息真实?
本报评论员 李思远
“南沙大桥公交车坠桥”事件虽已查明,但其迅速蔓延的轨迹令人深思。在不经意间,我们或许已经进入了“眼见不再为实”的时代。AI技术让“无中生有”变得如此简单,以至于一段由个人电脑生成的视频,竟能轻易挑动公共神经,迫使城市应急信息体系紧急响应。
这起事件再次证明,防范技术滥用,不能仅靠事后辟谣。AI技术的飞速发展要求我们的法律规范、监管机制、平台责任以及公众素养必须同步升级。相关部门应尽快出台针对AI生成内容的强制标识规范,利用技术手段(如数字水印)追踪源头;各平台则需建立起更高效的“虚假信息快速识别与熔断机制”;而对每一个普通网民而言,保持审慎之心,不盲目转发,通过官方渠道核实信息,将是未来必备的“数字生存技能”。
技术进步不应以牺牲信息真实性为代价。当我们学会辨别真伪,技术才能真正服务于社会进步,而不是制造混乱。