搜索Statlect上的概率和统计信息
统计章程
指数 > 渐近 theory

快三一定牛原则

经过 ,博士学位

快三一定牛原理是一种用于概率论和统计的技术 大致计算或估计概率的特征 分布(例如, expected value, 这 variance, 一种 quantile)不能 完全计算。它广泛应用于蒙特卡罗模拟的理论 and bootstrapping.

粗略地说,快三一定牛原则表示,给定的一个特征 分布可以用相同的特征近似 empirical distribution 从给定的观察结果 分配。实证分布的特征称为快三一定牛 估计给定分配的特征。例如,量子 给定的分布可以近似分位式的近似 从给定分布的绘制样本的经验分布。

目录

定义

以下是快三一定牛估计的正式定义。

定义 Let $ phi $ be a set of distribution functions。让 $ t $ be a mapping [eq1]. Let $ fin phi $. Let[eq2]是 a sample 的 realizations of n random variables X_1, ..., X_N. 所有都有分发功能 F. Let $ f_ {n} $ 是样本的实证分布功能。如果 phi $ f_ {n}, then the quantity[eq3] is called a 快三一定牛估计 of $ tleft(f
Ight)$.

下一节将提供对条件的非正式讨论 which [eq4] converges to $ tleft(f
Ight)$ as the sample size n 增加。在这样做之前,我们将提供一些例子来澄清 映射的意义 $ t $. 下一个示例显示了快三一定牛原则如何用于近似 expected values.

例子 假设我们需要计算预期的价值 [eq5]在哪里 X 是一个随机变量和 [eq6] is a function. If [eq7] 是分布功能 X, 然后,预期值可以写作riemann-stieltjes积分(参见 the lecture entitled Expected value) 作为 follows[eq8]我们 can define a mapping $ t $ 这样,对于任何分发功能 $ arphi $, we have[eq9]因此, 我们需要计算的预期价值 is[eq10]现在, 如果我们有一个样本 n draws $ x_ {1} $, ..., $ x_ {n} $ 从分布 F, 他们的经验分布功能 $ f_ {n} $ 是可以采用的离散随机变量的分发功能 of the values $ x_ {1} $, ..., $ x_ {n} $ with probability $1/n$. 因此,快三一定牛估计 [eq11] is[eq12]

下一个示例显示了快三一定牛原则如何用于近似 quantiles.

例子 假设我们需要计算 p - qualile. [eq13] of a random variable X 具有分发功能 [eq7], 并假设我们无法使用定义来计算它 p - qualile.[eq15]我们 can define a mapping $ t $ 这样,对于任何分发功能 $ arphi $, we have[eq16]因此, 我们需要计算的大分 is[eq17]如果 we have a sample of n draws $ x_ {1} $, ..., $ x_ {n} $ 从分布 F, and we denote by $ f_ {n} $ 他们的经验分布函数,然后是快三一定牛估计 [eq18] is [eq19]在哪里 [eq20] is the ceiling of $ np $, 也就是说,最小的整数不小于 $ np $, and [eq21] is the i - 样本的命令统计,即 i - 样品中的较小观察。

渐近性质

我们不会进入快三一定牛的渐近属性的细节 估算器,因为这需要一定程度的数学复杂性 远远超出了这些讲义中平均所需的水平。但是,我们 将讨论与其融合有关的主要问题并提供一些 intuition.

首先,人们可能想知道快三一定牛是否 estimate[eq22]汇聚 in some sense to[eq23]作为 the sample size n 增加。正如我们在讲座的题为题目中所见 Empirical distribution,Glivenko-Cantelli定理及其概括 提供经验分布的条件 $ f_ {n} $ converges to F. If $ f_ {n} $ and F 是有限维矢量,然后可以应用 Continuous Mapping theorem 和 say that if $ t $ is continuous, then [eq24] converges to $ tleft(f
Ight)$. Unfortunately, $ f_ {n} $ and F 不是有限维,因为它们是定义的函数 R (这是不可数的),因此,不可能应用 连续映射定理。但是,有几个定理,类似于 连续映射定理,可在快三一定牛的情况下应用 估算器:如果映射 $ t $ 在某种意义上是连续的(或微分),然后是 [eq25] converges to $ tleft(f
Ight)$. 这些定理所需的连续性条件通常很复杂和 难以检查实际情况。我们将感兴趣的读者推荐给面包车 更详细信息,der vaart(2000)。然而,尽力而为 常用的映射 $ t $ (例如,平均值,方差,时刻和交叉时刻,量级)满足 所需的连续性条件。

此外,还可以证明在某些条件下 version of the Central Limit Theorem 适用于快三一定牛估计 [eq26], that is, the quantity[eq27]汇聚 分发到正常随机变量。如果 $ f_ {n} $ and F 是有限维矢量,那么人们可能需要 $ t $ 可怜并应用 Delta Method 证明上述数量的渐近常态。但是由于 $ f_ {n} $ and F 是无限尺寸的,一种更一般的技术,称为功能Δ 方法,需要采用(利用可分辨率的概念 $ t $ 这被称为hadamard可差异性)。我们再次推荐兴趣 读者到van der Vaart(2000)了解更多详情。

参考

Van der Vaart,A. W.(2000) Asymptotic statistics,剑桥大学出版社。

如何引用

请引用:

Taboga, Marco (2017). "快三一定牛原则", Lectures on probability theory and mathematical statistics, Third edition. Kindle Direct Publishing. Online appendix. //www.enerxy-china.com/asymptotic-theory/plug-in-principle.

这本书

本网站上发现的大多数学习材料现在都以传统的教科书格式提供。