在Statlect上搜索概率和统计术语
统计列克特
指数 > 概率分布

Wishart发行

通过 博士

本讲座涉及Wishart分布,它是一个多变量 概括 Gamma distribution.

在以前的讲座中,我们已经解释了:

  1. a 卡方随机变量 with n 自由度可以看成是 n 具有均值0和方差1的独立正态随机变量;

  2. 具有参数的Gamma随机变量 n and $ h $ 可以看成是 n 具有均值0和方差的独立正态随机变量 $ h / n $.

A Wishart 随机的 matrix with parameters n and H 可以看成是 n independent 多元正态随机向量 具有均值0和协方差矩阵 $ frac {1} {n} H $. 从这个意义上讲,Wishart分布可以被认为是 Gamma分布(取第2点并替换法线随机 具有多元正态随机向量的变量,具有外积的平方 and the variance $ h / n $ 与协方差矩阵 $ frac {1} {n} H $)。

在此页面的底部,您可以找到一些简短的评论 矩阵代数的基本概念 那 will be 有助于理解本讲座的其余部分。

目录

定义

Wishart随机矩阵的特征如下。

定义 $ W $ be a $ Kimes K $ 连续随机矩阵。让它 support 是 the set of all $ Kimes K $ 对称正定实 matrices:[eq1]H 是一个对称正定矩阵 $n>K-1$. We say that $ W $ has a Wishart发行 与 parameters n and H if its joint 概率密度函数 is[eq2]哪里[eq3][eq4] is the Gamma function.

The parameter n 不需要是整数,但是,当 n is not an integer, $ W $ 不能再解释为多元正态外积之和 random vectors.

与多元正态分布的关系

以下命题提供了多元正态之间的联系 分布和Wishart分布。

主张 Let [eq5] be n independent Kx1 均具有多元正态分布且均值的随机向量 0 和协方差矩阵 $ frac {1} {n} H $. Let $ Kleq n $. Define[eq6]然后 $ W $ 具有参数的Wishart分布 n and H.

证明

这个主张的证明是相当 冗长而复杂。感兴趣的读者可以看看 Ghosh and Sinha (2002).

期望值

The expected value Wishart随机矩阵 $ W $ is[eq7]

证明

我们 没有提供完整的一般性证明,但我们仅针对 特殊情况下 n is integer and $ W $ can be written as[eq8](看到 以上小节)。在这种情况下,我们有 that[eq9]哪里 我们使用了这样一个事实,即 X can be written as[eq10](看到 the lecture entitled Covariance matrix)。

协方差矩阵

仅对随机向量定义了协方差矩阵的概念。 但是,在处理随机矩阵时,可能需要计算 相关向量化的协方差矩阵(如果您不熟悉 关于向量化的概念,请参见 review of matrix algebra 下面的定义)。因此,在 Wishart随机矩阵 $ W $, 我们可能要计算以下协方差 matrix:[eq11]

Since [eq12], the vectorization of $ W $, is a $ K ^ {2} imes 1 $ random vector, V is a $ K ^ {2} imes K ^ {2} $ matrix.

有可能证明 that[eq13]哪里 $ otimes $ 表示Kronecker产品, [eq14] 是与关联的转置置换矩阵 [eq15] (see the 矩阵代数复习 below for a definition).

证明

这个公式的证明可以在 Muirhead (2005).

对角项之间的协方差有一个更简单的表达式 of $ W $: [eq16]

证明

同样,我们没有提供全面的 证明,但我们仅在以下特殊情况下证明此结果: n is integer and $ W $ can be written as[eq8](看到 以上)。要计算此协方差,我们首先需要计算以下内容 fourth cross-moment:[eq18]哪里 $ X_ {si} $ denotes the i-th component ($ i = 1,ldots,K $) of the random vector $ X_ {s} $ ($ s = 1,ldots,n $)。 可以通过取第四个横截面来计算这个跨矩 关节力矩产生函数的导数 $ X_ {si} $ and $ X_ {sj} $ 并将其评估为零(请参阅标题为“ 关节力矩产生功能)。而 这并不复杂,代数相当繁琐。我建议这样做 使用计算机代数,例如利用Matlab Symbolic Toolbox和 以下四个命令:

syms t1 t2 s1 s2 s12;

f=exp(0.5*(s1^2)*(t1^2)+0.5*(s2^2)*(t2^2)+s12*t1*t2);

d4f=diff(diff(f,t1,2),t2,2);

subs(d4f,{t1,t2},{0,0})

计算结果 is[eq19]使用 这个结果之间的协方差 $ W_ {ii} $ and $ W_ {jj} $ is derived as follows:[eq20]

矩阵代数复习

本节回顾了矩阵代数的一些结果,这些结果用于处理 与Wishart发行。

外部产品

由于Wishart分布涉及多元正态的外部产品 随机向量,我们在这里简要回顾一下外部积的概念。

If X is a Kx1 column vector, the 外部产品 of X with itself is the $ Kimes K $ matrix A 从...的乘法获得 X with its transpose:[eq21]

If X is the $ 2imes 1 $ random vector[eq22]然后 its outer product $ XX ^ {op} $ is the 2元2元 random matrix[eq23]

对称矩阵

A $ Kimes K $ matrix A is 对称的 如果 and only if[eq24]即 if and only if A 等于其转置。

正定矩阵

A $ Kimes K $ matrix A is said to be 正定 当且仅 if [eq25]为了 any Kx1 real vector x such that $x
eq 0$.

所有正定矩阵也是可逆的。

证明

证明是矛盾的。假设一个 正定矩阵 A 不可逆转。然后 A 不会是全等级,即会有一个向量 $x
eq 0$ such that[eq26]哪一个, premultiplied by $ x ^ {op} $, would yield[eq27]但 这是一个矛盾。

矩阵的痕迹

Let A be a $ Kimes K $ matrix and denote by $ A_ {ij} $ the $left( i,j
ight) $-th entry of A (即, i-th row and the $ j $-th column). The 跟踪 of A, denoted by [eq28], 是的所有对角线项的总和 A:[eq29]

矩阵的向量化

Given a $ Kimes L $ matrix A, its 向量化,表示为 [eq30], is the $ KLimes 1 $ 通过堆叠列获得的向量 A 在彼此之上。

If A is a 2元2元 matrix[eq31]的 vectorization of A is the $ 4imes 1 $ random vector[eq32]

For a given matrix A, the vectorization of A 通常将不同于其转置的向量化 $ A ^ {op} $. The 转置置换矩阵 associated to [eq33] is the $ KLimes KL $ matrix [eq34] such that[eq35]

克罗内克产品

Given a $ Kimes L $ matrix A and a $ Mimes N $ matrix $ B $, the 克罗内克产品 of A and $ B $, denoted by $澳元B $, is a $ KMimes LN $ 具有以下矩阵 structure:[eq36]哪里 $ A_ {ij} $ is the $left( i,j
ight) $-th entry of A.

参考文献

Ghosh,M.和Sinha,B. K.(2002)“ Wishart发行”, 美国统计学家, 56, 100-101.

缪尔黑德(R.J. (2005年) 的方面 多元统计理论,威利。

如何引用

请引用为:

Taboga, Marco (2017). "Wishart发行", Lectures on probability theory and mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.enerxy-china.com/probability-distributions/wishart-distribution.

这本书

该网站上提供的大多数学习材料现在都以传统教科书格式提供。