基于小数据集的BN学习及其应用

Systems modeling based on small data sets has been a challenging problem for a long time. In this project, we have conducted research on learning Bayesian networks based on small data sets. The research has focused on how to enhance the quality of a given data set and the constraint sets in order to improve the learning accuracy of models and the associated parameters in Bayesian networks, which are applied in UAV autonomous threat assessment. A Bootstrap-based data extension method is proposed, the process of which is conducted by domain knowledge. Furthermore, an IDM (Imprecise Dirichlet Model)-based constraint expansion method is developed, the process of which is guided by expert domain knowledge. To validate their effectiveness, the proposed methods have been applied to constructing UAV autonomous threat assessment models. Those models are used to provide threat information for manned/unmanned vehicles performing cooperative reconnaissance task. Hopefully, this project will contribute to machine learning theory and systems modeling methods based on small data sets.

小数据集条件下的建模问题一直是困扰研究者的难题。本项目对“基于小数据集的贝叶斯网络建模”这一科学问题展开研究。以提高贝叶斯网络学习精度为目标，从改善数据和约束质量入手，研究小数据集条件下的贝叶斯网络结构学习和参数学习方法，及其在无人机自主威胁评估中的应用。利用先验约束引导数据扩展，提出一种基于专家知识引导Bootstrap数据扩展的贝叶斯网络学习方法。利用专家知识监测约束扩展，提出一种基于专家知识监测IDM约束扩展的贝叶斯网络参数学习方法。以有/无人机编队协同侦察搜索任务为想定，利用本项目提出的小数据集条件下的贝叶斯网络建模方法，构建无人机自主威胁评估模型，为无人机威胁规避提供威胁信息。通过本项目的研究，丰富小数据集条件下的机器学习理论，为相关领域存在的小数据集建模问题提供一条可参考的解决方案。

小数据集条件下的BN建模是困扰研究者的难题之一。本项目以提高BN学习精度为目标，研究了小数据集条件下的BN结构和参数学习，及其在无人机自主威胁评估中的应用。.在执行原计划的过程中，经查阅最新文献与分析研究结果，我们发现一些比原计划更好的研究方法以及与本项目密切相关的新研究内容，因此完成了超出预期的成果。.针对小数据集条件下的结构学习，我们从精确学习和近似学习两个方面提高了学习精度或效率，取得如下代表成果： (a) 引入依赖性约束修剪候选父节点集合，提出了一种基于广度优先的动态规划精确学习算法；(b) 证明BN节点可以通过独立性检验分层，据此提出了一种分层最优学习算法；(c) 引入马尔可夫毯约束，改进了DP算法；(d) 引入边的存在概率约束，改进了评分函数的性能；(e) 针对精确学习算法不适用于大规模BN，提出了一种基于最小角回归的节点序搜索算法；(f) 引入由路径先验和置信水平构造的先验函数，提高了OS+算法的搜索效率；(g) 用完全节点序划分BN空间，提出了一种贝叶斯网络结构的完全节点序空间中的爬山法。.针对小数据集条件下的参数学习，我们从约束期望和约束优化两个方面提高了学习精度，取得如下代表成果：(a) 引入参数空间约束，提出一种空间最大后验概率算法；(b) 将结合约束最大似然估计值融入定性最大后验概率中，提出修正定性最大后验概率算法；(c) 将凸约束引入贝叶斯估计框架，提出了一种约束贝叶斯估计算法；(d) 提出一种基于单调约束和定性影响约束的参数学习算法，使这两种约束融合成为可能；(e) 提出一种自适应学习算法，融合了约束最大似然和定性最大后验概率算法的优势；(f) 提出一种最大后验概率估计中等价样本量的约束定义方法，提高了学习精度；(g) 将先验分布引入约束优化学习框架，提出一种约束最大后验概率算法。.研究了基于BN的无人机自主威胁评估，相关成果已在三个工业部门得到成果转化。