近年来,随着人工智能技术的飞速发展,AI外呼系统在营销、客服、金融等领域的应用日益广泛。然而,技术的便利性也带来了新的社会问题——骚扰电话呈现出高频化、智能化、隐蔽化的趋势,让广大市民不胜其扰。针对这一公众关切的焦点,上海市市场监督管理局近日作出正式答复,明确将加强对AI外呼技术的监管,严厉打击骚扰电话背后的违法违规行为,切实维护消费者权益和通信秩序。

AI外呼技术:效率提升背后的隐忧

AI外呼技术是指利用语音合成、自然语言处理、自动拨号等人工智能手段,实现大批量、低成本、高频率的自动电话外呼。与传统人工呼叫相比,AI外呼系统可以同时拨打数千路电话,并能根据预设话术与用户进行互动,甚至模拟真人语气、情感,极难被识别为机器来电。

“以前骚扰电话一听就是录音,现在有的AI电话和真人对话几乎没有区别,还会根据我的回答调整话术,好几次我都以为是真人推销。”上海市民张先生向记者反映,近半年来他每天接到的骚扰电话从两三个增加到十多个,内容涵盖贷款推销、房产中介、教育培训等多个领域,且绝大多数来自AI外呼系统。

据中国互联网协会发布的《2024年中国骚扰电话治理报告》显示,2024年全国骚扰电话总量超过600亿次,其中AI外呼电话占比已超过40%,且呈持续上升态势。上海作为经济活跃、人口密集的超大城市,成为AI骚扰电话的重灾区之一。

上海市监局:多措并举,源头治理

针对AI外呼技术引发的高频骚扰电话问题,上海市市场监督管理局在答复中表示,已将治理AI骚扰电话列为年度重点工作,并采取“技术监测、源头追溯、信用惩戒、法规完善”四位一体的治理方案。

首先,在技术监测层面,市监局正联合通信管理局、公安部门搭建“AI骚扰电话智能识别平台”,利用大模型技术对通话内容进行实时分析,精准识别AI外呼特征,一旦发现疑似骚扰电话,立即触发拦截机制。“我们将建立骚扰电话数据库,通过声纹识别、话术模型比对等技术手段,让AI骚扰电话无处遁形。”市监局相关负责人表示。

其次,在源头追溯层面,市监局要求所有使用AI外呼系统的企业必须进行实名备案,明确外呼目的、频次、时间及号码来源。对于未备案或超出备案范围的外呼行为,将依法予以处罚。此外,市监局还将加强对呼叫中心、语音线路提供商等中间环节的监管,切断AI骚扰电话的产业链条。

第三,在信用惩戒层面,市监局计划将违规使用AI外呼系统的企业纳入“失信名单”,并在企业信用信息公示系统中进行公示,影响其后续融资、招投标等经营活动。“要让违法成本远高于违法收益,形成有效震慑。”市监局强调。

第四,在法规完善层面,上海市正积极推动《上海市通信管理条例》的修订工作,拟增设AI外呼技术使用的专门条款,明确“未经用户同意不得进行AI外呼”“AI外呼必须全程提示录音”“用户有权一键拉黑”等规定,从法律层面为治理提供依据。

运营商与平台:落实责任,协同治理

除政府监管外,运营商和平台企业也被要求承担更多责任。上海市通信管理局此前已要求三大运营商加强网络侧拦截,对异常高频呼叫号码进行限制呼出,并推广“来电秘书”“智能拦截”等免费服务。与此同时,微信、支付宝等平台也被要求加强对跳转链接、小程序中的AI外呼行为审核,防止利用平台引流进行骚扰。

“AI外呼技术本身是中性的,但绝不能变成骚扰工具。”上海市监局在答复中指出,将鼓励行业协会制定AI外呼技术应用标准,引导企业合规使用,平衡商业效率与用户权益。

专家建议:完善法律与公众教育并重

华东政法大学数据法律研究中心主任高教授认为,治理AI骚扰电话不能只靠“堵”,更要靠“疏”。一方面要完善法律框架,明确AI外呼的合法边界,比如允许用于政务服务、紧急通知等场景,禁止商业骚扰;另一方面要加强公众教育,提高市民对AI骚扰电话的识别和防范能力,同时畅通投诉举报渠道,形成社会共治格局。

未来展望:技术对抗技术与制度约束

从技术角度看,AI骚扰电话的升级必然催生更先进的拦截技术。目前已有企业开发出“AI反AI”系统,通过声学分析、对话逻辑检测等方式实时识别并挂断AI电话。然而,单纯的“猫鼠游戏”并不能根治问题。上海市监局的答复传递出一个明确信号:技术治理必须与制度约束、法律惩戒相结合,才能真正让AI外呼技术“有界、有序、有责”。

随着上海市监局一系列治理措施的逐步落地,市民有望在不久的将来迎来一个更加清静的通信环境。但治理骚扰电话是一场持久战,需要政府、企业、公众三方携手,共同筑牢防线。