本报记者 林宇 综合报道
“砰!”一声闷响过后,科技公司CEO张伟(化名)重重摔在三米外的墙壁上,胸前的衬衫上赫然印着一个清晰的鞋印。而“行凶者”,正是他所在公司历时三年自主研发的第四代工业机器人“铁卫4号”。
这起令人瞠目结舌的事故,发生在本周二下午2点45分,地点位于深圳南山区某智能科技公司的测试车间。据现场监控视频显示,张伟当时正与技术人员对“铁卫4号”进行最后的功能验收测试。机器人原本在执行标准的搬运及避障程序,却在张伟靠近其右侧传感器区域时,突然发生异常动作——它先是以0.8秒的速度完成了一次90度旋转,紧接着右腿猛然向前弹射,将毫无防备的张伟凌空踹飞。
“当时所有人都懵了。”现场目击者、该公司技术总监李华回忆道,“张总被踹出去后在地上翻滚了两圈,脸上全是血,我们立刻叫了救护车。而机器人居然还保持着那个抬腿的姿势,好几秒后才自动复位。”
经医院检查,张伟右侧两根肋骨骨裂,面部软组织挫伤,目前仍在住院观察,所幸无生命危险。
这起事件迅速在行业内引发震动。据了解,“铁卫4号”是该公司最新一代的AI协作机器人,主打高精度、高灵敏度的人机协作能力,定位为“工厂里的安全亲密伙伴”,原定于下月正式量产发布。其核心卖点之一,就是“主动避让人类”的安全算法——当检测到人类靠近时,机器人应减速或停止,而非做出攻击动作。
那么,问题究竟出在哪里?
事发后,该公司立即启动了内部调查,并邀请中科院自动化研究所专家团队共同介入。初步分析显示,机器人传感器数据读入存在异常:在张伟靠近的瞬间,其传感器捕捉到的空间定位信息被错误识别为“碰撞威胁”,进而触发了系统预设的“自我保护性驱离”应急程序——而这个本应只针对异常物体推拉的动作,却因算法漏洞,在执行时被放大并错误地调用了腿部驱动模块。
“通俗点说,就是机器人把CEO当成了‘入侵物体’。”参与调查的专家刘教授向记者解释,“目前的AI系统在复杂环境下的场景理解能力依然非常薄弱,尤其是在人与机器交互边界模糊时,‘误判’和‘过度反应’风险极高。”
值得注意的是,这并非孤立事件。近年来,全球范围内已多次出现机器人伤人案例:2018年,亚马逊仓库机器人刺穿防熊喷雾罐导致24名员工受伤;2021年,波士顿动力公司旗下机器人多次“逃逸”出实验室;2022年,日本一家养老院的护理机器人曾将一名老人推倒在地。然而,CEO被自家产品“踹飞”且造成明显伤害,这在业内尚属首次。
事件曝光后,社交媒体上迅速掀起热议。“赛博朋克成真了”“人类终于开始为造物主付出代价”等评论层出不穷。也有不少业内人士表达了更深的忧虑:当AI系统拥有自主决策和物理动作执行能力时,如何确保其行为边界绝对安全?当“安全算法”本身存在漏洞时,人类是否反而陷入了更危险的境地?
深圳市工信局已就此事约谈该公司管理层,要求暂停所有相关测试,并在一个月内提交详细的系统安全审查报告。同时,国家人工智能标准化总体组也呼吁应尽快完善人机协作机器人的安全标准体系,特别是针对“异常行为触发”和“紧急制动”机制制定强制规范。
躺在病床上的张伟通过个人社交媒体发文回应此事。他写道:“我的机器人给了我沉重的一课。技术没有恶,但漏洞有。我们必须正视AI失控的风险,从每一次事故中重构安全底线。”
事件的最终调查结果尚未出炉,但一个不容回避的问题已经摆上桌面:当机器人“踹飞”它的创造者,人类是否还应该继续信任自己的造物?或许正如张伟所言,这次“飞踹”不只踹在他身上,更是对整个科技行业的一记警醒。安全不是可选项,而是AI时代的生命线。