搜索Statlect上的概率和统计信息
统计 章程
指数 > Matrix algebra

投影矩阵

经过 ,博士学位

在线性代数中,投影矩阵是与线性相关联的矩阵 操作员将向量映射到它们的投影到子空间。

目录

初论概念

让我们首先审查一些对理解至关重要的概念 projections.

Let  $ s $ be a 线性 space 。 让  $ s_ {1} $ and  $ s_ {2} $ be subspaces of  $ s $ .

请记住,总和 $ s_ {1} + s_ {2} $ is the set[eq1]

When  $ s_ {1} $ and  $ s_ {2} $ 只有共同的零载体(即, [eq2] ), 那么总和被称为a direct sum and it is denoted by $ s_ {1} oplus s_ {2} $.

而且,当直接总和等于整个空间时,即 is,[eq3] 我们 说这两个空间是 complementary.

正如我们所证明的那样,何时  $ s_ {1} $ and  $ s_ {2} $ 是互补的,任何矢量  $ s $ belonging to  $ s $ 可以是唯一的书面 as[eq4] 在哪里 $ s_ {1}在s_ {1} $ and $ s_ {2}在s_ {2} $.

预测

在修改所有这些概念后,我们已准备好定义预测。

定义 Let  $ s $ 是一个线性空间。让  $ s_ {1} $ and  $ s_ {2} $ 是补充子空间(即, [eq5] )。 Let  $ sin s $ with its unique decomposition[eq6] 在 which $ s_ {1}在s_ {1} $ and $ s_ {2}在s_ {2} $. Then, the vector  $ s_ {1} $ 被称为投影  $ s $ onto  $ s_ {1} $ along  $ s_ {2} $ , and the vector  $ s_ {2} $ 被称为投影  $ s $ onto  $ s_ {2} $ along  $ s_ {1} $ .

我们注意到了“沿方面”  $ s_ {1} $ " and " 沿着  $ s_ {2} $ " 是必要的,因为给定子空间的补充不一定 独特的。例如,可能有另一个子空间  $ s_ {3} $ 这是互补的  $ s_ {1} $ . 结果,当我们投射向量时  $ s_ {1} $ , 我们需要指定我们是否正在考虑  $ s_ {2} $ or  $ s_ {3} $ as a complement of  $ s_ {1} $ .

例子 Let  $ s $ 是所有真实的空间  $ 3 $ 1 $ vectors. Let  $ s_ {1} $ be the space spanned by [eq7] 哪个 包含所有标量倍数  $ b_ {1} $ . Let  $ s_ {2} $ 是两个人跨越的空间 vectors [eq8] 哪个 contains all the linear combinations of  $ c_ {1} $ and  $ c_ {2} $ . We have that [eq9] 因为没有非零矢量  $ s_ {1} $ 可以写成线性组合  $ c_ {1} $ and  $ c_ {2} $ . Therefore, [eq10]. 现在,考虑向量 [eq11] 我们 have that[eq12] 因此, 独特的分解  $ s $ is[eq13] 在哪里 $ s_ {1} = 2b_ {1} $ and $ s_ {2} = 2c_ {1} + c_ {2} $. The projection of  $ s $ onto  $ s_ {1} $ along  $ s_ {2} $ is [eq14] 和 the projection of  $ s $ onto  $ s_ {2} $ along  $ s_ {1} $ is [eq15]

倾斜预测

上面定义的投影有时也称为倾斜投影 为了将它们与正交预测区分开,这是一个特定的 两种互补子空间的投影  $ s_ {1} $ and  $ s_ {2} $ are orthogonal complements.

投影运营商

我们现在定义投影运算符。

定义 Let  $ s $ 是一个线性空间和  $ s_ {1} $ and  $ s_ {2} $ 两个子空间,这样 [eq16]. The function [eq17] 那个员工  $ sin s $ its projection onto  $ s_ {1} $ along  $ s_ {2} $ 被称为投影运算符到  $ s_ {1} $ along  $ s_ {2} $ .

投影算子的第一个重要属性是它是线性的 操作员,即它保留了标量的加法和乘法。

主张 投影运算符到  $ s_ {1} $ along  $ s_ {2} $ is a 线性 operator.

证明

任意选择两个矢量  $ s,tin s $ . They have the unique decompositions[eq18] 在哪里 [eq19] and [eq20]. Denote by $ p_ {s_ {1},s_ {2}} $ 投影运算符到  $ s_ {1} $ along  $ s_ {2} $ . Then,[eq21] 拿 any two scalars  $ lpha $ and  $ eta $ 并考虑线性 combination[eq22] 然后, [eq23] 所以, [eq24] 自从  $ s $ ,  $ t $ ,  $ lpha $ and  $ eta $ 是随意的,后一等平等意味着投影算子是 linear.

几个观察结果是有序的:

投影算子的矩阵

Let [eq25] be a basis for  $ s $ . Any vector  $ sin s $ 可以由其代表 coordinate vector with respect to  $ b $ , denoted by [eq26]. If  $ s $ 可以写成基础的线性组合 as[eq27] 然后 [eq28]

而且,任何线性操作员 $ f:s
ighararow s $ 可以由一个方形矩阵表示,调用 运营商的矩阵 with respect to  $ b $ and denoted by [eq29], such that[eq30]

在投影运算符的情况下 $ p_ {s_ {1},s_ {2}} $, 这意味着存在一个方形矩阵 [eq31] 这一旦乘坐坐标后乘以 [eq32] of a vector  $ s $ , 给出投影的坐标  $ s $ onto  $ s_ {1} $ along  $ s_ {2} $ . 这种矩阵称为投影矩阵(或投影仪)。

定义 投影算子关于给定基础的矩阵被称为a projection matrix.

如何派生投影矩阵

现在我们知道一个投影矩阵是什么,我们可以学习如何派生它。

In the lecture on 补充子空间 我们已经表明,如果 [eq33] is a basis for  $ s_ {1} $ , [eq34] is a basis for  $ s_ {2} $ , and [eq35] 然后  $ bcup c $ is a basis for  $ s $ .

为了易读,表示投影 $ p_ {s_ {1},s_ {2}} $ simply by  $ p $. in what follows.

Note that  $ p $. projects:

通过应用用于导出线性运算符的矩阵的一般规则,我们 obtain that[eq36] 在哪里 I is the $ kimes k $ 标识矩阵和另一个块是零矩阵(特别是 diagonal one is $ limes l $ )。

In step  $ rame {a} $ 我们使用了坐标向量的事实  $ b_ {k} $ 关于基础  $ bcup c $ (to which  $ b_ {k} $ 本身属于,占据 k - 位置)是一个单个条目等于的载体 1 (the k -Th) 以及所有其他条目等于 0.

Thus, the projection  $ p $. 具有极其简单的结构:当我们使用它来投影矢量时  $ s_ {1} $ , 我们留下对应于基地的坐标  $ s_ {1} $ 不变,我们将所有其他坐标设置为零。

但是,在大多数情况下,我们并不是很幸运地拥有坐标 表达  $ bcup c $ . 在这种情况下,我们需要进行更改(请修改它 works here )。

假设用于表达坐标的基础是 E. 然后,从改变的基础  $ bcup c $ to E is[eq37]

投影算子的矩阵相对于基础 E is[eq38]

例子 如前面的例子所示,我们考虑空间  $ s $ of all real  $ 3 $ 1 $ vectors。坐标自然是对...自然表达的 canonical basis [eq39] 在哪里 [eq40] 这 basis of  $ s_ {1} $ is [eq41] where[eq42] 和 the basis of  $ s_ {2} $ is [eq43] where[eq44] 我们 已经争辩说 [eq45]. As before, denote $ p_ {s_ {1},s_ {2}} $ (投影运算符到  $ s_ {1} $ along  $ s_ {2} $ ) simply by  $ p $. . 首先,我们有那个 [eq46] 因为 投影算子保留第一个坐标并湮灭 其他两者(当坐标被表达时 [eq47] )。 适合我们目的的基础矩阵 is[eq48] 它的 inverse is[eq49] 这 在规范基础下投影矩阵 is[eq50] 让 美国计算投影  $ s_ {1} $ of the vector[eq11] 我们 已经在上一项运动中完成了它,但这一次我们可以使用 projection matrix:[eq52] 哪个 与之前我们派生的结果是相同的。

互补投影机

一旦我们派生投影矩阵 [eq53] 这允许项目向量  $ s_ {1} $ , 衍生矩阵非常容易 [eq54] 这允许向互补子空间投入向量  $ s_ {2} $ .

If a vector  $ s $ is decomposed as [eq55] 然后 我们可以写投影  $ s_ {2} $ as[eq56] 和 its coordinates as[eq57]

因此,投影操作员的矩阵上  $ s_ {2} $ , 有时称为互补投影仪, is[eq58]

在上面的推导中,我们也看到了 that[eq59]

Thus, we have that[eq60]

矩阵是IDEMPotent IFF它是一个投影矩阵

A square matrix A 据说如果才能是幂等的,只有它等于它 square:[eq61]

事实证明,IDEMPOTENT矩阵和投影矩阵是相同的 thing!

主张 矩阵是idempotent,如果它是一个投影矩阵。

证明

让我们证明“如果是部分”。我们开始了 the hypothesis that A 是一个投影矩阵。因此,它是投影算子的矩阵  $ p $. 关于某些基础 E, that is, [eq62]. 如上所述,我们有 that[eq63] 所以, [eq64] 哪个 proves that A 是个体化的。让我们现在证明“只有”部分,从中开始 hypothesis that A 是个体化的。假设 A is $ kimes k $ . Let  $ s $ be the space of all Kx1 vectors。定义两者 subspaces[eq65][eq66] 在 other words,  $ s_ {1} $ and  $ s_ {2} $ 是由矩阵定义的操作员的范围和内核 A. We have that[eq67] 自从 any vector  $ sin s $ can be written as[eq68] 在哪里: $ asin s_ {1} $ and [eq69] because[eq70] 认为 that a vector  $ t $ belongs to both  $ s_ {1} $ and  $ s_ {2} $ . Since $ tin s_ {1} $, there exists  $ sin s $ such that[eq71] 我们 可以预先乘两侧 A and obtain[eq72] 自从 $ tin s_ {2} $, we have that $At=0$. As a consequence, $As=0$ by equation (3), and $t=0$ by equation (2). Therefore,[eq73] 因此, [eq74] 从 等式(1)我们知道 A projects  $ s $ into its component $ asin s_ {1} $. 因此,投影运算符的矩阵是项目向量 of  $ s $ into  $ s_ {1} $ along  $ s_ {2} $ . Hence, A 是一个投影矩阵。

解决练习

下面可以找到一些练习解释的解决方案。

练习1

考虑在前两个示例中分析的投影问题,其中 我们已经从投影运算符的投影矩阵派生到  $ s_ {1} $ . 衍生互补投影矩阵(进入  $ s_ {2} $ ) 并用它来找到投影  $ s_ {2} $ of the vector[eq75]

解决方案

定义 [eq76]. We have that[eq77] 这 projection of  $ s $ onto  $ s_ {2} $ is[eq78]

如何引用

请引用:

Taboga, Marco (2017). "投影矩阵", Lectures on matrix algebra. //www.enerxy-china.com/matrix-algebra/projection-matrix.

这本书

本网站上发现的大多数学习材料现在都以传统的教科书格式提供。