1.    智能无人系统/机器人车辆/自动驾驶的安全技术研究（CPS/RV/ADS Security）
【核心】：智能无人系统/机器人车辆RV/自动驾驶ADS，是一种典型的物理信息系统CPS，其安全技术研究包括，CPS/RV/ADS系统的缺陷检测/漏洞挖掘、利用与防护，CPS/RV/ADS系统的网络空间与物理空间交叉的语义安全研究等。

2.   网络靶场关键技术研究与系统实现（Cyber Range）
【核心】：网络靶场是网络空间安全科学研究、评测和分析、仿真验证、网络攻防演练的大型科学装置。该装置基于软硬件和网络资源、仿真特定的互联网，供演习导调、平台管理、攻击、防御、裁判五方协同使用，服务安全人才培养、攻防演练、网络安全产品评测和网络新技术验证。主要包括网络靶场的关键技术研究与系统研发。

代表性成果名称：机器学习搜索引导的无人机飞控参数配置的缺陷检测方法

【软件工程国际顶级会议，1类贡献度，CCF A】Ruidong Han, Chao Yang, Siqi Ma, Jianfeng Ma, Cong Sun, Juanru Li, Elisa Bertino. Control Parameters Considered Harmful: Detecting Range Specification Bugs in Drone Configuration Modules via Learning-Guided Search[C]. ACM/IEEE International Conference on Software Engineering (ICSE) 2022, May 21-23, Page(s):, Pittsburgh, Pennsylvania, USA

完成人：杨超（学生：韩瑞冬等）

成果简介：

    为了实现可靠性和适应性，无人机设备开发者为用户提供了可更改的控制以及任务参数。用户通过修改这些参数来修改无人机的飞行状态和飞行方式。同时，开发者为保证用户使用的安全性，限制了参数的取值范围以防止不合适的配置出现。然而，由于缺乏对控制参数值的充分检查，配置参数（限制范围内）仍能引入某些漏洞。在用户选择参数值来设置某些特定配置时，可能会触发不稳定的飞行状态，例如轨迹偏差甚至无人机坠毁。甚至，该问题可被外部攻击者利用对无人机进行攻击，并伪装成意外事件。在没有任何恶意代码注入、内存损坏或传感器欺骗的情况下，攻击者构建并通过脆弱的无线/无线电通道向无人机发送了一连串的命令。与常规的用于进行攻击的恶意命令不同的是，这些命令利用的是无人机系统自身的逻辑设计缺陷而不是外部系统入侵。因此，这种利用逻辑漏洞的攻击可能会迷惑用户，将其视为由用户操作或系统漏洞造成的正常事故。这项工作发现了该问题并开发一种专门用于检测该范围规范错误的方法。该方法通过学习引导模糊测试方法来搜索潜在的不合适配置，并利用搜索结果生成可灵活变化的参数范围指导。该方法设计了一套概率预测机制，其利用机器学习算法来训练一个状态预测器。并使用该状态预测器的输出值作为模糊测试中适应度评价的参考，进而达到加速模糊测试过程的效果。最终结果表明，该方法能够有效的发现无人机的不合理参数配置，提高了飞行的安全性。

成果相关图片：

图1 无人机不正确配置的问题来源

图2 无人机参数配置错误模糊测试系统

图3 无人机参数配置缺陷测试结果

图4 无人机参数正确配置优化范围

代表性成果名称：基于模糊测试的无人机路径规划系统的缺陷检测方法

【软件工程国际顶级会议，1类贡献度，CCF A】Yue Wang, Chao Yang, Xiaodong Zhang, Yuwanqi Deng, Jianfeng Ma. PPFuzzer: Discovering Safety Critical Vulnerabilities of Drone Path Planners [C]. ACM/IEEE International Conference on Software Engineering (ICSE) 2025

完成人：杨超（学生：王越等）

成果简介：

    无人机路径规划程序，是用于控制无人机在杂乱且未知的环境中避开障碍物并飞向指定目的地的程序，它使得无人机拥有自主飞行的能力，具有广阔的应用前景。然而，在一些特定场景下，路径规划程序可能无法正确的控制无人机，使无人机出现异常行为，导致无人机的损毁或无法完成预定任务。在这项工作中，我们提出了一个针对路径规划程序的自动化模糊测试框架用于发现安全漏洞。该模糊测试框架基于仿真的方法，通过变异飞行场景对路径规划程序进行测试，找到触发无人机飞行异常的场景用于揭露路径规划程序中存在的漏洞。为了能够高效的发现触发路径规划程序漏洞的场景，我们提出了一项新的指标：环境风险因子，该指标将无人机的飞行场景对无人机构成的威胁进行抽象，用于引导测试场景的变异，通过不断变异场景最终生成触发漏洞的场景。

    本框架用于测试了两个先进的开源的无人机路径规划程序：Ego-Planner和Ego-Planner-Swarm，它们被应用到了商品无人机上并且被用于实现分布式控制的无人机蜂群飞行。我们的模糊测试框架针对它们进行了测试，发现了71个触发路径规划漏洞的飞行场景，并归类为8种不同类型的漏洞。本成果通过模糊测试的方法对无人机路径规划系统进行深入研究，为路径规划程序的研发者提供了参考，以避免在路径规划系统的设计及实现中引入相关漏洞，提高了无人机的安全性。

成果相关图片：

图1 路径规划程序错误控制导致的问题

图2 针对无人机路径规划系统的模糊测试框架

图3 仿真测试场景

图4 发现的8种漏洞类型

图5 发现的无人机路径规划错误结果

代表性成果名称：基于对抗样本生成的无人机导航控制系统的缺陷检测方法

【中科院SCI一区，1类贡献度，CCF B】Taifeng Liu, Chao Yang, Xinjing Liu, Ruidong Han, Jianfeng Ma. RPAU: Fooling the Eyes of UAVs via Physical Adversarial Patches[J]. IEEE Transactions on Intelligent Transportation Systems(TITS), 27 September(2023):1-13.

完成人：杨超（学生：刘泰峰等）

成果简介：

    近年来，无人驾驶飞行器（UAV）因其在各种应用中的使用而得到了快速发展，包括包裹运送、医疗救援和战场监视。依靠传感器和深度学习模型，无人机可以重建周围的环境并自动完成许多任务，如物体检测和目标跟踪、导航和规避等。然而，由于深度学习容易受到对抗性攻击，人们对部署有深度学习模型的无人机提出了安全问题。之前的工作大多集中在针对无人机的数字对抗性攻击，这些攻击要么导致无人机失去对目标的探测或跟踪，要么通过破坏自主导航导致无人机崩溃。为了发动数字攻击，对手必须向通信渠道注入精心设计的扰动。然而，入侵无人机通信信道从来都不是件容易的事。虽然入侵是成功的，但扰动计算造成的延迟使得实时攻击成为不可能。最近，物理对抗性攻击的潜力得到了研究，因为其适用性很高。与数字攻击不同，物理攻击可以通过在现实世界中放置物理对抗性补丁来进行。

    本成果针对无人机的控制导航系统的应用，基于对抗样本方法，对欺诈无人机控制导航系统展开深入研究。在无人机飞行过程中通过物理手段对无人机的导航系统进行欺诈，从而达到影响无人机飞行任务的目的。现有的其他欺诈技术主要针对于无人机的GPS进行欺骗，本成果主要针对近年来较为主流的视觉避障导航算法。同时，与先前主要探讨数字领域的对抗性攻击的研究不同，该成果更注重于物理手段，这对无人机构成了更严重的威胁，且更加实用。为了发起这些攻击，三个领域设计的挑战被克服，包括连续扰动、数字-物理领域差距弥补和最佳扰动生成。改成果也将为无人机物理攻击手段提供更加新颖的理论支持。

成果相关图片：

图1 攻击测试种类

图2 无人机导航控制系统的鲁棒性对抗补丁生成框架

图3 不同攻击距离下的攻击成功率

图4 仿真测试下的攻击成功率

图5 物理世界对抗测试效果

代表性成果名称：基于模糊测试的自动驾驶功能安全测试系统

【网络安全顶级全国大赛】Watchout! – 基于模糊测试的自动驾驶功能安全测试系统，第十六届全国大学生信息安全竞赛作品赛一等奖、最具创新创业价值奖（最高奖，11/300+）、优秀指导教师奖，2023年

完成人：杨超（学生：步桐、张柏迪等）

成果简介：

    自动驾驶技术正处于飞速发展的状态，目前成本可控的半自动驾驶车辆已经能 够投入使用，且各大厂商仍在积极开发全自动驾驶系统，以期抢先部署。但在将产品推向用户之前，测试并确保自动驾驶系统的安全性至关重要。为了更好的解决上述问题，我们设计了一个新的自动驾驶系统功能安全模糊测试框架，搭建了一个高精度、高自由度的联合仿真环境。该环境支持本地运行，尽管学界已经提出了很多对于自动驾驶系统功能安全的测试方案，但现有工作仍存在两点不足，其一是自动驾驶系统仿真测试带来的高昂的计算开销，绝大多数的工作都需要依赖搭载高算力显卡的 GPU 服务器来进行测试，测试费用和时间成本较高。二是自动驾驶系统架构复杂，在进行测试时区别于传统软件模糊测试，其错误通常不会导致程序直接崩溃，因此难以通过常规手段测试程序缺陷，而需要更加细致的错误定义。国产化程度高，稳定性强。

    基于上述联合仿真环境，本作品构建了一套新的测试变异流程，采用代理协助进 化算法 (SAEAs)，从算法层面将自动驾驶模糊测试系统的搜索速度提高106.45%，同时能够覆盖更广泛的搜索空间。此外, 为了解决仿真模拟带来的高昂开销，作品设计了能够替代仿真模拟器产生反馈的代理模型，指导参数朝着特定方向变异，并给出了模型的训练方法，大幅度降低了测试成本。

    本作品还定义了多样的错误类型，除了传统的碰撞、超速、停滞等问题之外，团队基于交通规则和自动驾驶设计准则定义了一系列策略组。用户能够通过该策略组自动化地测试违反上述规则的错误，可以发现特定的场景中的潜在问题。作品目前在百度 Apollo 和 Carla behavior agent 自动驾驶系统中共发现了31 个新的错误，并向开发者提交了相关测试报告。测试结果表明，本作品技术方法和系统可以高效测试自动驾驶系统存在的相关程序缺陷，对于推动技术进步和自动驾驶程序全面安全落地与应用具有重要意义。

成果相关图片：

图1 基于模糊测试的自动驾驶语义安全测试系统

图2 种子场景参数配置

图3 自动驾驶ADS系统的仿真测试场景

图4 发现的自动驾驶ADS系统的错误列表