搜索Statlect上的概率和统计信息
统计章程
指数 > 概率分布 > Normal distribution

正常分布 - 二次快三一定牛

经过 ,博士学位

讲座介绍了关于涉及二次快三一定牛的重要结果 正常随机载体,即关于种类的快三一定牛 [eq1]在哪里 X is a Kx1 多变量正常随机矢量, A is a $ kimes k $ matrix and $ op $ 表示换位。

目录

审查矩阵代数相关结果

在讨论涉及正常随机载体的二次快三一定牛之前,我们审查 在整个讲座中使用的矩阵代数的一些结果。

正交矩阵

A $ kimes k $ real matrix A is orthogonal if[eq2]哪个 also implies[eq3]在哪里 I 是身份矩阵。当然,如果 A is orthogonal also $ a ^ {op} $ is orthogonal.

正交矩阵的一个重要属性是以下内容。

主张 Let X be a Kx1 标准多变量正常随机向量,即, [eq4]. Let A be an orthogonal $ kimes k $ real matrix. Define [eq5]然后 also Y 具有标准多变量正态分布,即, [eq6].

证明

随机向量 Y 具有多变量的正态分布,因为它是线性变换 另一个多变量正常随机向量(参见讲座 线性组合 正常随机变量)。 Y 标准正常是因为它的预期价值 is[eq7]和 它的协方差矩阵 is[eq8]在哪里 最后的平等是正交定义的立即后果 matrix.

对称矩阵

A $ kimes k $ real matrix A is symmetric if[eq9]IE。, A 等于转置。

真正的对称矩阵具有它们可以分解的属性 as[eq10]在哪里 $ p $. 是一个正交的矩阵和 $ d $ 是对角线矩阵(即,其非对角线条目为零的矩阵)。这 diagonal elements of $ d $, 这一切都是真实的,是特征值 A and the columns of $ p $. 是特征向量的 A.

IDEMPotent矩阵

A $ kimes k $ real matrix A is idempotent if[eq11]哪个 implies[eq12]为了 any $ nin u {2115} $.

对称IDEMPotent矩阵

If a matrix A 是对称和幂的,那么其特征值是零还是一个。 换句话说,对角线矩阵的对角线条目 $ d $ in the decomposition[eq13] 是零还是一个。

证明

这很容易被视为 follows:[eq14]哪个 implies[eq15]但 只有在对角线条目时才有可能 $ d $ 是零还是一个。

矩阵

Let A be a $ kimes k $ 真实矩阵并表示 $ a_ {ij} $ the $ left(i,j
Ight)$ - entry of A (即,交叉口的条目 i - row and the $ j $ - 柱子)。痕迹 A, denoted by [eq16], is[eq17]

换句话说,该跟踪等于所有对角线条目的总和 A.

The trace of A 享受以下重要的财产: [eq18]在哪里 [eq19] are the K eigenvalues of A.

标准多元正常的二次快三一定牛 random vectors

以下命题表明标准中某些二次快三一定牛 正常随机载体有一个 Chi-square distribution.

主张 Let X be a Kx1 标准多变量正常随机载体,即 [eq20]. Let A 是一个对称和幂等矩阵。让 [eq21] be the trace of A. Define[eq22]然后 $ q $ 有一个Chi-Square分布 [eq23] degrees of freedom.

证明

自从 A 是对称的,它可以分解 as[eq24]在哪里 $ p $. is orthogonal and $ d $ 是对角线。可以写入二次快三一定牛 as[eq25]在哪里 we have defined[eq26]经过 上述标准多元正交变换的定理 正常随机载体,正交性 $ p ^ {op} $ implies that [eq27]. Since $ d $ 是对角线,我们可以编写二次快三一定牛 as[eq28]在哪里 $ y_ {j} $ is the $ j $ - component of Y and $ d_ {jj} $ is the $ j $ - diagonal entry of $ d $. Since A 是对称和幂的,对角线条目 $ d $ 是零还是一个。表示 $ j $ the set[eq29]和 by $ r $ 它的基数,即对角线条目的数量 $ d $ that are equal to 1. Since [eq30], we can write[eq31]但 标准正常随机向量的组件是 mutually independent 标准正常随机 变量。所以, $ q $ 是平方的总和 $ r $ 独立标准正常随机变量。因此,它有一个Chi-Square distribution with $ r $ 自由度(参见讲座 Chi-Square分布 为了 details). 最后,通过幂等矩阵的属性和矩阵的迹线 (see above), $ r $ 不仅是对角线条目的数量 $ d $ that are equal to 1, 但它也是特征值的总和 A. 由于矩阵的痕迹等于其特征值的总和,然后 [eq32].

上面的命题可用于导出以下非常有用 proposition.

主张 Let X be a Kx1 多变量正常随机载体与平均值 亩 和可逆的协方差矩阵 V. Define[eq33]然后 $ q $ 有一个Chi-Square分布 K degrees of freedom.

证明

自从 V 是可逆的,存在可逆的矩阵 Sigma. such that[eq34]所以, we have[eq35]在哪里 we have defined[eq36]存在 多元正常随机载体,载体的线性变换 Z 具有多变量的正态分布。它的意思 is[eq37]和 它的协方差矩阵 is[eq38]因此, Z 具有标准多变量正态分布(平均值 0 and variance I) and[eq39]是 标准正常随机向量中的二次快三一定牛。结果,它有 奇方分布 [eq40] degrees of freedom.

标准二次快三一定牛的独立性 多变量正常随机载体

我们开始了本节,提出线性之间的独立性 transformations.

主张 Let X be a Kx1 标准多变量正常随机向量,即, [eq41]. Let A be a $ l_ {a} imes k $ matrix and $ b $ be a $ l_ {b} imes k $ matrix. Define[eq42]然后 $ t_ {1} $ and $ t_ {2} $ 如果且才有两个独立的随机vectors,只有 $ ab ^ {intercal} = 0 $.

证明

首先,请注意 $ t_ {1} $ and $ t_ {2} $ 是相同多变量正常随机载体的线性变换 X. 因此,它们是共同正常的(见题为有权的讲座 线性组合 正常随机变量)。他们的 cross-covariance is[eq43]但, 正如我们在题为题目的讲座中解释的那样 Multivariate 正态分布 - 分区向量,两个联合正常随机 如果它们的交叉协方差等于,则vectors是独立的 0. 在我们的情况下,跨协方差如果才等于零(只有) $ ab ^ {intercal} = 0 $, 这证明了这个命题。

以下命题为此提供了必要和充分的条件 两个二次快三一定牛的独立在相同的标准多元正常 random vector.

主张 Let X be a Kx1 标准多变量正常随机向量,即, [eq44]. Let A and $ b $ be two $ kimes k $ 对称和IDEMPOTENT矩阵。 Define[eq45]然后 $ q_ {1} $ and $ q_ {2} $ 如果且才有两个独立的随机变量 $AB=0$.

证明

自从 A and $ b $ 是对称和幂的,我们可以 write[eq46]从 这很明显 $ q_ {1} $ and $ q_ {2} $ 只要只要像距离一样独立 $ ax $ and $ BX $ 是独立的。但是,通过上述关于独立之间的主张 联合正常随机载体的线性变换, $ ax $ and $ BX $ 如果才是独立的,只有 $ ab ^ {intercal} = 0 $. Since $ b $ 是对称的,这与 $AB=0$.

以下命题为此提供了必要和充分的条件 二次快三一定牛与涉及线性变换之间的独立性 相同的标准多变量正常随机向量。

主张 Let X be a Kx1 标准多变量正常随机向量,即, [eq47]. Let A be a $ limes k $ vector and $ b $ a $ kimes k $ 对称和IDEMPotent矩阵。 Define[eq48]然后 $ t $ and $ q $ 如果才是独立的,只有 $AB=0$.

证明

自从 $ b $ 是对称和幂的,我们可以 write[eq49]从 这很明显 $ t $ and $ q $ 只要只要像距离一样独立 $ ax $ and $ BX $ 是独立的。但是,通过上述关于独立之间的主张 联合正常随机载体的线性变换, $ ax $ and $ ab $ 如果才是独立的,只有 $ ab ^ {intercal} = 0 $. Since $ b $ 是对称的,这与 $AB=0$.

例子

我们在这里讨论一些常见的统计数据的二次快三一定牛。

样本方差为a quadratic form

Let X_1, ..., X_N. be n 独立随机变量,都有一个正常 分布与平均值 亩 and variance $ sigma ^ {2} $. Let their sample mean xbar_n. be defined as[eq50]

and their adjusted sample variance 是 defined as[eq51]

Define the following matrix:[eq52]在哪里 I is the n - 一维 identity matrix and $ imath $ is a $尼姆1 $ 矢量矢量。换一种说法, $ m $. has the following structure:[eq53]

$ m $. 是一个对称矩阵。通过计算产品 $ mcdot m $, 它也可以很容易地验证 $ m $. is idempotent.

Denote by X the $尼姆1 $ random vector whose i - entry is equal to X_I. and note that X 具有多变量的正态分布与平均值 $ mu imath $ 和协方差矩阵 $ sigma ^ {2} i $ (参见题为有权的讲座 多变量 normal distribution)。

The matrix $ m $. 可用于编写样本方差 as[eq54]

现在定义一个新的随机性 vector[eq55]和 note that Z 有一个标准(平均零和协方差 I) 多变量正态分布(参见题为有权的讲座 线性组合 正常随机变量)。

可以写入示例方差 as[eq56]

总和中的最后三个术语等于零 because[eq57]哪个 可以通过直接执行乘法来验证 $ m $. and $ imath $.

因此,样本 variance[eq58]是 与标准正常随机向量中的二次快三一定牛成比例 ($ z ^ {op} mz $) 并且从对称和幂幂矩阵获得二次快三一定牛 ($ m $.)。 由于上面的命题,我们知道二次快三一定牛 $ z ^ {op} mz $ 有一个Chi-Square分布 [eq59] 自由度,在哪里 [eq60] is the trace of $ m $.. But the trace of $ m $. is[eq61]

所以,二次快三一定牛 $ z ^ {op} mz $ 有一个Chi-Square分布 $n-1$ 自由程度。将Chi-Square随机变量乘以 $n-1$ 自由度 [eq62] 一个参数获取伽马随机变量 $n-1$ and 西格玛^ 2. (参见题为有权的讲座 Gamma distribution for more details).

所以,总结,调整后的样本方差 $ s ^ {2} $ 具有参数的伽玛分布 $n-1$ and 西格玛^ 2..

此外,调整后的样本方差 $ s ^ {2} $ 独立于样本意味着 xbar_n., 这被证明如下。样本意味着可以写成 as[eq63]和 可以写入示例方差 as[eq64]如果 我们使用上述命题(线性变换之间的独立性和 一种二次快三一定牛),验证独立性 xbar_n. and $ s ^ {2} $ 归结为验证这一点 [eq65]哪个 可以通过直接执行乘法来轻松检查 $ imath ^ {op} $ and $ m $..

如何引用

请引用:

Taboga, Marco (2017). "正常分布 - 二次快三一定牛", Lectures on probability theory and mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.enerxy-china.com/probability-distributions/normal-distribution-quadratic-forms.

这本书

本网站上发现的大多数学习材料现在都以传统的教科书格式提供。