AI机器人易被黑客操控，变潜藏危险武器
近日，宾夕法尼亚大学的研究团队揭露了一个令人担忧的事实：众多先进的人工智能增强型机器人系统存在严重的安全漏洞，容易遭受黑客的攻击与操控。据IEEE Spectrum报道，这些系统若被恶意利用，可能导致极其危险的后果，如机器狗可能喷射火焰攻击主人，自动驾驶汽车可能故意撞击行人，甚至引导炸弹至极具破坏性的地点。
宾夕法尼亚工程学院的研究人员开发了一套名为RoboPAIR的基于大型语言模型（LLM）的机器人攻击技术，成功地对来自三家不同机器人供应商的设备进行了攻击，包括英伟达支持的海豚LLM、Clearpath Robotics Jackal UGV和Unitree Robotics Go2四足机器人。令人震惊的是，RoboPAIR在攻击这些设备时达到了100%的成功率。
宾夕法尼亚工程学院电气系统工程、计算机与信息科学、机械工程与应用力学系运输学教授乔治・帕帕斯（George Pappas）指出，这项研究揭示了在将大型语言模型与物理世界结合时，现有的安全性远远不够。其他研究人员也强调，黑客攻击人工智能控制的机器人系统“极其容易”。他们解释说，RoboPAIR通过利用目标机器人的应用程序接口（API）来工作，攻击者可以以机器能执行代码的方式格式化提示词。
研究论文进一步指出，为了确保LLM控制的机器人系统的安全，迫切需要采取有效的防御措施，以物理限制这些系统的操作。这一发现提醒我们，随着人工智能技术的不断发展，保障其安全性和可靠性已成为当务之急。
