高维参数和半参数模型下的似然推断

In high-dimensional regression, a large number of nuisance parameters greatly affect inference for parameters of interest. When the dimension of nuisance parameters in a model is low, the likelihood ratio test (LRT) is an efficient and powerful tool of statistical inference. The important property of the LRT is that its asymptotic null distribution is independent of the nuisance parameters, referred to as the Wilks theorem (or phenomena). However, it is unknown whether the Wilks theorem still holds when the dimension of nuisance parameters is large, especially when the dimension is large than sample size. Even if it holds, the power of LRT is adversely affected by the number of nuisance parameters so that the LRT becomes too low to detect the difference between the null and alternatives. For high-dimensional data, most studies on LRT are limited to linear or generalized linear models. Very few works have focused on LRT for high-dimensional semiparametric models. For this purpose, we propose to first reduce the dimension of nuisance parameters and then construct generalized LRTs. The resulting test is coined as dimension-reduced generalized likelihood ratio (DR-GLR) test. In this proposal, we aim to investigate the following problems: (1) To construct DR-GLR statistics and investigate their theoretical properties in high-dimensional parametric models. (2) To construct DR-GLR statistics in high-dimensional semiparametric models and examine their asymptotic properties. (3) To extend the idea of DR-GLR test to cases where the likelihood function does not exist. (4) To investigate the numerical realization of DR-GLR tests and apply them to a variety of scientific fields.

在高维回归模型的统计推断中，一个突出的问题是冗余参数的影响。在低维冗余参数下，似然比检验是一种非常经典有效的推断方法，它有很多优良的性质，其中最重要的似然比检验的渐近分布常常和冗余参数无关，人们称这一性质为Wilks现象。但当冗余参数维数是高维时，似然比检验是否还具有Wilks现象受到怀疑，并且它的功效会受到严重影响，甚至失去检验能力。关于似然比检验在高维情形下的研究，大多局限在广义线性模型下，很少有针对半参数模型的研究。为此，我们提出在构造（广义）似然比检验之前先降低冗余参数(或系数函数)空间的维数的两步检验方法，即DR-GLR检验。本课题的研究内容如下：（1）DR-GLR统计量在高维参数模型下的构造及性质；（2）DR-GLR统计量在高维半参数模型下的构造及性质；（3）DR-GLR检验在非似然情形下的拓展；（4）DR-GLR检验在高维数据下的数值实现和应用。

高维参数和半参数模型的推断一直是统计学的热点和难点问题。为解决这个问题，本项目提出了重新拟合降维后的广义似然比（简称重新拟合DR-GLR）统计量。具体的，通过先将数据分割为两部分，在第一部分数据上利用（非）正则化方法降低备择（非）参数空间的维度，在新的备择空间上基于第二部分数据构造GLR检验，同时交叉地在第二部分数据上选择模型，并在第一部分数据上构造统计量，最后将基于两部分数据得到的GLR统计量进行整合。重新拟合DR-GLR统计量是一种十分稳健和有效的两步检验方法。针对广义拟似然模型，本项目建立了惩罚估计模型选择的同阶性理论，这为变量选择得到的随机子模型的维度提供了一个上界，这是DR-GLR统计量成功的关键。在考虑多块缺失数据和大数据背景下存在存储限制时，我们提出了相应的变量选择方法。针对变系数和可加模型等半参数模型，我们提出了组结构下高维普通最小二乘投影和岭估计EBIC算法，并建立了变量选择的相合性，相比于文献中的向前回归和组惩罚方法，所提出的方法大大降低了计算复杂度，提高了变量选择的稳定性。.接下来，我们构造重新拟合DR-GLR检验。针对广义拟似然模型，我们证明了重新拟合统计量在原假设下渐近服从中心卡方分布，在局部备择假设下渐近服从非中心卡方分布。紧接着，我们将高维广义拟似然模型的结果推广到超高维广义变系数和可加模型中。重新拟合DR-GLR检验的检验参数的维度是低维的，为处理多重超高维检验问题，我们基于错误发现率提出一种多重超高维检验方法，并证明了检验的相合性. 伴随本课题的完成，我们也产生了一些与本课题相关的成果。.本项目论文成果丰硕，人才培养指标超额完成，共产生14篇科研论文，其中12篇在国际重要学术刊物上发表或接受，一篇在统计学国际一流刊物Bernoulli小修,一篇在统计学顶级期刊AOS送审。在人才培养上，本项目培养了博士后2名、博士研究生2名、硕士研究生5名。在学术交流上，本项目支持开展了多场重量级学术会议，提升了项目依托单位的声誉和项目主持人的影响。