涵盖框架标准、评估认证、行业自律等领域，助力全球人工智能安全发展

近日，在全球人工智能治理领域备受瞩目的“AI安全与治理成果发布会”在上海举行。会上集中发布了多项重量级AI安全治理成果，涵盖治理框架、安全评估、行业自律以及国际合作等多个维度。来自政府部门、科研机构、高校及头部科技企业的代表共同见证了这些成果的落地。与会专家表示，这批成果标志着我国在人工智能安全治理领域从“顶层设计”迈向“实操落地”的关键一步。

本次发布的成果中最受关注的当属《人工智能安全治理框架（2025年版）》及其配套实施指南。该文件由国家人工智能安全治理标准化技术委员会牵头，联合多家权威机构共同编制。新版框架在2024年试行版基础上，进一步细化了AI研发、部署、使用全生命周期的安全要求，特别针对近期引发广泛讨论的大模型幻觉、深度伪造和自动化决策偏见等问题，提出了分级分类的治理方案。据了解，框架还将定期更新，以适应技术快速迭代的需求。

与此同时，国内首个覆盖大模型、智能机器人、自动驾驶等领域的“人工智能安全评估认证体系”正式启动试点。该体系由中国信息通信研究院、国家计算机网络应急技术处理协调中心等机构联合建立，分为基础安全、可信属性和行业应用三个层级。首批通过评估的10家企业的15款AI产品已获得认证证书。负责该体系建设的专家指出：“安全认证不是一劳永逸的，后续将实施动态监测和年度复评，确保产品在全生命周期内持续合规。”

行业自律方面，由上海市人工智能行业协会联合60余家头部企业共同发起的《人工智能安全自律公约》也在现场签署生效。公约明确要求企业在AI产品上线前完成安全自评，并定期公开透明性报告。值得注意的是，公约特别加入了“未成年人保护”和“特殊群体服务普惠”条款，要求企业在算法设计阶段就嵌入负责任理念。多家签约企业表示，将把安全投入作为企业发展的“硬约束”，而非“可选项”。

此外，本次发布会还公布了多项国际合作成果。上海人工智能实验室与联合国教科文组织、世界经济论坛等国际机构共同发布了《AI安全治理跨国协作平台》白皮书，提出了建立全球AI安全事件通报机制和联合应急响应机制的构想。同时，中欧数字协会启动了“AI安全治理对话”项目，旨在促进不同治理体系之间的互认与对接。

在圆桌讨论环节，多位国内外专家一致认为，人工智能的安全治理不能单靠技术或法规，而需要技术、伦理、法律、产业等多维度协同推进。中国工程院院士王某某在发言中强调：“AI安全不是发展的对立面，而是可持续发展的基石。今天的成果发布，是全球AI治理中‘中国方案’的又一次生动实践。”

作为全球AI发展的高地，上海在AI安全治理方面的先行先试具有示范意义。此次集中发布的多项成果，不仅为国内AI企业提供了可操作的安全指引，也为全球AI治理体系的完善贡献了智慧和力量。未来，随着这些成果的落地推广，人工智能将朝着更加安全、可信、公平的方向加速演进。