近期，山西省网信、公安等部门联合开展专项行动，集中查处多起利用人工智能技术编造、传播灾害事故谣言的违法行为。据官方通报，截至发稿时，已依法处置相关网络账号20余个，行政拘留、批评教育涉案人员10余人，有力震慑了网络谣言制造传播链条。

AI技术沦为造谣“新工具”

随着生成式人工智能技术的普及，部分不法分子开始利用AI软件编造虚假信息，以此博取流量、牟取利益。此次山西查处的多起案件中，谣言内容涉及“煤矿塌陷”“山体滑坡”“化工厂爆炸”等灾害事故类表述，配以AI生成的现场图片或视频，极具欺骗性。

例如，今年3月，某网络平台上出现一则“山西某地发生山体滑坡，数十人被埋”的信息，并附有多张“现场照片”。经当地警方核实，该地从未发生此类事故，照片系由AI图像生成工具制作，背景元素明显存在逻辑错误。发布者郭某承认，自己为吸引粉丝关注，使用AI软件生成了虚假图文并发布至社交平台。最终，郭某因虚构事实扰乱公共秩序被依法行政拘留。

另一起案件中，博主李某利用AI文本生成工具，编造“山西某煤矿发生瓦斯爆炸，造成多人伤亡”的虚假消息，并在多个微信群转发。警方迅速介入调查，发现该谣言传播量已超万次，引发部分民众恐慌。李某被依法处以行政处罚，相关谣言信息被全网清理。

多部门联动 强化技术反制

针对利用AI制造谣言的新趋势，山西省网信办、省公安厅联合建立了网络谣言监测预警机制，运用技术手段对疑似AI生成的虚假信息进行识别和标记。网信部门相关负责人表示，AI生成的文字、图片、视频在语义逻辑、光影效果、细节纹理等方面往往存在破绽，通过算法模型可以快速筛查。

同时，山西警方加大对网络平台的巡查力度，对传播谣言、恶意蹭炒热点事件的行为“零容忍”。专项行动期间，共发现并处置涉灾害事故类谣言线索30余条，清理有害信息500余条。公安机关提醒，无论使用何种技术手段，编造、传播谣言均属违法行为，情节严重者将追究刑事责任。

专家：平台需承担审核责任

中国政法大学传播法研究中心研究员朱巍指出，AI技术的滥用降低了造谣门槛，但法律底线不可触碰。他建议，网络平台应主动升级内容审核系统，对疑似AI生成的虚假信息进行显著标识或拦截，并建立快速投诉和辟谣通道。此外，个人在使用AI工具生成内容时，应遵守法律法规，不得编造、传播虚假信息。

山西此次专项行动表明，监管部门对于新型网络谣言没有“法外之地”。随着AI技术的演进，网络空间治理需要技术手段与法律手段并重，既要打击恶意造谣者，也要引导公众提高信息辨别能力，不盲目转发未经核实的灾害事故信息。

警惕“技术伪装”下的造谣行为

事实上，利用AI生成谣言并非个案。今年以来，全国多地已查处多起类似案件，涉及地震、火灾、安全事故等不同领域。专家分析，灾害事故类谣言易引发公众焦虑，传播速度快，社会危害性大。山西警方此次公开通报典型案例，意在震慑潜在违法者，同时提醒网民：“眼见”未必为实，面对来源不明、情感冲击强烈的灾害信息，应保持冷静，优先通过官方渠道核实。

截至发稿，山西网信、公安部门已联合发布《关于依法打击利用AI生成灾害事故谣言的通告》，明确将常态化开展网络巡查，对顶风作案者依法从重处罚。这场“技术战”背后，是对网络空间清朗秩序的坚决维护。