近年来，机械可解释性（Mechanistic Interpretability）作为可解释人工智能（XAI）领域的一个新兴分支，在解释复杂机器学习模型决策方面发挥了关键作用，特别是在无人机入侵检测系统（UAVIDS）等安全攸关的系统（Critical Systems）中。最新发表的研究论文《XAI and Statistical Analysis for Reliable Intrusion Detection in the UAVIDS-2025 Dataset: From Tree to Hybrid and Tabular DNN Ensembles》为这一领域带来了突破性的系统化方法。
研究团队应用了业内最佳的数据预处理实践，采用分层十折交叉验证（Stratified 10-fold cross validation），对广泛的树集成模型（Tree-ensembles）、深度神经网络（DNN）、混合堆叠模型（Hybrid stacking models）以及最新的表格集成神经网络（Tabular ensemble neural networks）进行了全面评估与对比。实验结果显示，XGBoost 模型在检测无人机入侵任务中表现出最为优异的性能。
为了打破黑盒模型的局限性，研究人员引入了 SHAP（Shapley Additive explanations）归因方法，深入分析了全局与局部特征重要性。这一步骤使安全专家能够精确掌握每种攻击手段如何通过调整通信特征来模拟正常流量，并精确定位模型发生分类错误的具体维度。随后，研究团队进行了详尽的概率分布分析，通过直观对比小提琴图和核密度估计（KDE）曲线，寻找数据底层的异常模式。
针对 UAVIDS-2025 数据集中极难防范的“蠕虫”（Wormhole）和“黑洞”（Blackhole）攻击，研究人员结合用于多重比较的 Westfall-Young 置换检验、KDE 带宽优化，并采用 Jensen-Shannon 距离进行差异度量，最终锁定了导致模型产生错误预测的真正根源。该研究不仅成功攻克了上述攻击之间普遍存在的“密度支持交集”（Density Support Intersection）技术瓶颈，还揭示了网络攻击的伪装本质。研究成果为无人机网络安全提供了高鲁棒性、高可靠性且兼具深度统计学支撑的可解释性模型。
【AgentUpdate 深度解析】 随着 AI Agent（人工智能智能体）从单一的软件环境向物理世界（如无人机蜂群、具身智能及工业物联网）加速渗透，其安全防御边界正经历前所未有的考验。传统的特征比对和粗放式检测已无法应对能够自主伪装、模拟正常流量的高级持续性威胁（APT）。本文展示的机械可解释性（XAI）与高维统计学分析的融合，为下一代 AI Agent 的安全防护注入了“主动免疫”能力。在未来的多 Agent 协同（Multi-Agent Collective）生态中，安全防御将不能仅依赖外围的防火墙，而必须在 Agent 的认知与决策流中嵌入自解释（Self-explaining）机制。通过 SHAP 归因和统计密度差异分析，Agent 不仅能自动识别并拦截蠕虫或黑洞等隐蔽攻击，还能自主分析攻击者的欺骗策略并共享给整个 Agent 协同网络。这种兼具高透明度与自适应对抗能力的“安全 Agent”架构，将是构建高信任度自主系统和数字孪生网络不可或缺的底层基石。
