机器人电报11月5日讯，2026世界互联网大会乌镇峰会期间，人形机器人以组团形式亮相展会现场，并在景区广场进行表演，成为这座江南古镇中一道独特的风景。当中国机器人技术和产业发展吸引全球目光之际，多位峰会嘉宾的关注焦点已从”机器人能做什么”延伸到更深层的议题——机器人做错事之后，安全与责任如何界定。
加纳科网董事长、互联网名人堂入选者尼·奎诺指出，过去十年AI大多局限在屏幕之内，如今智能正从仅会回答问题的系统转向能够在多种真实场景中执行任务的系统。他强调，屏幕上的一个失误放到现实世界中可能造成人身伤害，物理世界的容错余地几乎为零：一台有故障的机器人可能导致工人受伤，一份有缺陷的软件更新可能危及系统安全，互联互通的系统一旦出现问题更会影响基础公共服务乃至整个社区。
机器人能否在危险发生时安全停下，是另一个亟待解决的问题。TÜV南德大中华区商业产品部卓越中心资深经理朱海锋介绍，一般机械装置会配备急停按钮，但人形机器人在急停状态下可能摔倒，而冲过去按按钮实际上会加大风险，目前很多人形机器人上并未设置该按钮。他还提到人机交互中存在的情感问题，机器人可能对人进行负面引导并造成伤害。
尼·奎诺认为，现行法律和安全机制不足以应对AI及机器人发展带来的新型风险，有必要为具身智能与自主系统建立专门的风险管理框架，在机器人部署前必须评估潜在风险、受害对象以及防范措施。朱海锋则指出，安全事故发生后界定机器人责任同样困难——传统产品通常只涉及一套控制系统，较容易验证，而机器人涉及复杂的硬件与AI系统，多家厂商和开发者参与其中，一旦出问题很难厘清缺陷的具体归属。