在全球科技迅猛发展的今天，人工智能与军事领域的深度结合正引发前所未有的伦理与安全关切。当地时间6月13日，联合国秘书长古特雷斯在维也纳出席“人工智能造福人类”全球峰会时发出严正警告，呼吁国际社会立即采取行动，禁止所谓的“杀手机器人”——即完全自主决定发动攻击的致命自主武器系统。
古特雷斯在讲话中强调，人工智能技术的军事化应用正将人类推向一个危险的临界点。“让机器拥有夺走人类生命的权力，这在道德上是不可接受的，在法律上也是站不住脚的。”他指出，缺乏人类有效控制的武器系统一旦失控，可能导致无法预料的后果，甚至引发全球性冲突升级，其灾难性不亚于核战争风险。
所谓“杀手机器人”，通常指具备自主识别、追踪和攻击目标能力，而无需人类实时操控的武器系统。随着近年来机器学习、计算机视觉和自主导航技术的突破，这类武器已从科幻走进现实。多个军事大国正在加速研发和部署无人机蜂群、自主巡逻车、智能水雷等装备，其自主决策能力日益增强。然而，国际社会至今未能就限制或禁止这类武器达成具有法律约束力的条约。
古特雷斯指出，目前围绕致命自主武器系统的谈判陷入僵局，主要大国之间分歧明显。“我们不能让技术决定生死。我们必须尽快制定清晰的红线，禁止那些没有人类控制和监督的自主武器。”他呼吁联合国《特定常规武器公约》缔约国认真履行责任，在2026年前达成一项新的国际协议。
事实上，关于禁止“杀手机器人”的呼声由来已久。从2013年起，非政府组织“阻止杀手机器人运动”便在全球范围内发起倡议，获得超过100个国家和数千名AI领域专家支持。著名物理学家霍金、特斯拉CEO马斯克等科技界领军人物也曾多次公开警告，人工智能武器可能成为“第三次战争革命”，其危险性超过核武器。
然而，由于军事大国对武器自主化带来的战术优势高度依赖，相关国际谈判进展缓慢。美国、俄罗斯、以色列等国在大力发展自主武器技术的同时，倾向于采用自愿行为准则而非强制性禁令，认为完全禁止可能阻碍技术创新和国防能力提升。这种立场与希望出台全面禁令的国家和民间组织形成尖锐对立。
值得一提的是，2023年底在日内瓦举行的《特定常规武器公约》审议会上，各缔约国未能就启动正式谈判达成共识，仅同意继续开展“实质性讨论”。中国作为公约缔约国之一，立场主张通过谈判达成一项具有法律约束力的议定书，重点限制致命自主武器系统，并强调应确保人类对武器系统的有效控制。
古特雷斯此次在维也纳的讲话，被外界视为推动谈判进程的重要信号。他坦言，当前的AI发展速度超出国际治理机制的更新步伐，“我们正在打一场注定会输的仗，除非我们立刻改变方向。”他特别提醒各国政府和企业，发展AI不能仅考虑技术可能性和商业利益，更要关注其对全球和平与人类尊严的深远影响。
据悉，奥地利、哥斯达黎加、梵蒂冈等30多个国家已公开支持全面禁止自主武器。但分析人士指出，要在军事大国之间达成共识，仍面临巨大挑战。一些学者主张，国际社会可以先从建立透明、可信的“人类控制”标准入手，逐步过渡到具有约束力的法律文书。同时，加强对AI算法的伦理审查和可解释性研究，确保任何武器系统的关键决策必须由人类做出。
人工智能是一把双刃剑。古特雷斯最后的发言令人深思：“让机器决定人类的生死，这不是进步，而是对人性底线的侵蚀。我们必须站起来，在灾难发生之前就制止它。”
本次峰会期间，多国代表和AI专家还将围绕自主武器系统的定义、风险防范措施、技术透明度等具体问题进行深入研讨。联合国方面也计划在今年9月的未来峰会上，将“杀手机器人”作为一项核心议题提交各国领导人讨论。人类能否在技术狂奔的轨道上及时刹车，正考验着国际社会的智慧与决心。