半相依回归系统的贝叶斯分析

The seemingly unrelated regressions (SUR) has been widely used in many fields such as econometrics and biological sciences,etc. This project mainly foucses on the research of the expressions and the properties of Bayes estimator and empirical Bayes (EB) estimator in the system of SUR, which is composed of linear models or partially linear (semiparametric) models. First, we investigate the system of SUR consisting of two linear models, by employing the power series expression of matrix and making the assumption that the error distribution is symmetric, we study the expressions of Bayes estimator and the corresponding EB estimator of regression parameter and exhibit the superiorities of the EB estimator over some classical estimators. Secondly, for the SUR system consisting of more than two linear models, using the covariance adjustment method, we intend to establish the relationship between the estimator of regression parameter obtained by the covariance adjustment and the Gauss-Markov estimate of the parameter, and we further point out that under any a reasonable condition all k(k≧2)-step covariance adjustment estimator of the parameter may degenerate to its one-step covariance adjustment estimator, thus, under suitable loss functions and the assumptions of error distribution, we try to define Bayes estimator for the parameter and therefrom lay our emphasis on the study of the expressions and properties of the corresponding EB estimator of the parameter. Finally, by virtue of Bayesian hierarchical framework and the technique of kernel estimate, we extend our research to the SUR system composed by partially linear models and make an attempt at establishing the expression of the EB estimator of parameter, the corresponding large sample properties of the EB estimator and its small sample properties as well.

半相依回归系统在计量经济学和生物科学等领域有着广泛的应用。本项目主要研究由线性模型组成的半相依回归系统及由部分线性模型组成的半相依回归系统中参数的贝叶斯及经验贝叶斯估计的形式与性质。首先由两个线性模型组成的半相依回归系统出发，借助矩阵幂级数展开，在误差分布为对称分布的假定下，研究参数的贝叶斯和经验贝叶斯估计的表达式及经验贝叶斯估计相对于某些经典估计的优良性。其次，对由三个以上的线性模型组成的半相依回归系统，利用协方差改进法，拟建立协方差改进估计与高斯马尔科夫估计的关系，同时拟进一步指出参数的两步以上的协方差改进估计在任何一个合理的条件下都将退化为该参数的一步协方差估计，从而在合适的损失函数和误差分布下给出贝叶斯估计的形式并重点研究相应的经验贝叶斯估计的形式和性质。最后，利用贝叶斯层次框架及核估计的技巧，推广研究由部分线性模型组成的半相依系统中参数的经验贝叶斯估计的表达式及大、小样本性质。

半相依回归系统是多个以某种统计关系相联系在一起的线性模型，其在计量经济学和生物科学等领域有着广泛的应用。贝叶斯分析是近几十年来迅速发展起来的数理统计的一个重要分支，其方法和思想已广泛渗透到了数理统计的几乎所有领域。项目主要研究由线性模型组成的半相依回归系统及由部分线性模型组成的半相依回归系统中参数的贝叶斯及经验贝叶斯估计的形式与性质。本项目在自然基金的支持下，已经获得的结果有（一）：在m(m>=2)个线性模型组成的半相依回归系统中，证明了任意回归参数的高斯马尔科夫估计有唯一的简化表达，且该表达式恰好等于该回归参数的一步协方差改进估计；由此断定对任意有限的k(k>=2),回归参数的k-步协方差改进估计将退化为一步协方差改进估计且相应的两步Aitken估计也只有唯一的简化表达式。(二)：对于由两个多变量线性模型组成的半相依回归系统，利用另一个模型的信息，证明了回归系数矩阵的估计可展开成一个矩阵幂级数，并断定该矩阵幂级数仅有唯一的退化表示式，且此矩阵幂级数等于回归系数矩阵协方差改进估计序列的极限，同时，一步协方差改进估计恰等于该幂级数的退化表示式；进一步指出两个观测矩阵必须成对出现在回归系数矩阵的任意有效估计中；当半相依回归系统的协方差矩阵未知时，回归系数矩阵的两步估计同样具有唯一的退化表达式，且由此构造出回归系数矩阵的一个无偏的两步估计并通过数值模拟阐述了其优越性。（三）在回归系数带有等式约束条件的两个线性模型组成的半相依回归系统中，一般性地证明了回归系数最佳的估计可以由其协方差改进估计序列的极限和约束条件结合获得，但不等于约束最小二乘估计的协方差改进序列的极限。（四）论证了线性贝叶斯估计方法相对于经典估计方法的优越性，并在两参数均匀分布、两参数指数分布、逆高斯分布的参数估计以及随机效应模型的方差分量的估计中证明了多参数线性贝叶斯估计的优良性，且通过数值模拟讨论了其相对于通常的MCMC算法、Lindley近似以及Tierney和Kadane近似的特性。