此条目可参照英语维基百科相应条目来扩充。 (2016年9月13日)若您熟悉来源语言和主题，请协助参考外语维基百科扩充条目。请勿直接提交机械翻译，也不要翻译不可靠、低品质内容。依版权协议，译文需在编辑摘要注明来源，或于讨论页顶部标记{{Translated page}}标签。
在统计学中，一个概率样本的置信区间（英语：confidence interval，CI），是对产生这个样本的总体的参数分布（parametric distribution）中的某一个未知母数值，以区间形式给出的估计。相对于点估计（point estimation）用一个样本统计量来估计参数值，置信区间还蕴含了估计的精确度的信息。在现代机器学习中越来越常用的置信集合（confidence set）概念是置信区间在多维分析的推广[1]。
置信区间在频率学派中间使用，其在贝叶斯统计中的对应概念是可信区间（英语：credible interval）（credible interval）。两者建立在不同的概念基础上的，贝叶斯统计将分布的位置参数视为随机变量，并对给定观测到的数据之后未知参数的后验分布进行描述，故无论对随机样本还是已观测数据，构造出来的可信区间，其可信水平都是一个合法的概率[2]；而置信区间的置信水平，只在考虑随机样本时可以被理解为一个概率。
目录
1 定义
1.1 对随机样本的定义
1.2 对观测到的数据的定义
2 例子
2.1 例1：正态分布，已知总体方差'"`UNIQ--postMath-00000018-QINU`"'
2.2 例2：正态分布，未知总体方差'"`UNIQ--postMath-0000001E-QINU`"'
2.3 例3：两个独立正态样本
3 常见误解
4 构造法
5 与参数检验的联系
6 参考文献
7 参考书目
定义
编辑
对随机样本的定义
编辑
定义置信区间最清晰的方式是从一个随机样本出发。考虑一个一维随机变量
X
{\displaystyle {\cal {X}}}
服从分布
F
{\displaystyle {\cal {F}}}
，又假设
θ
{\displaystyle \theta }
是
F
{\displaystyle {\cal {F}}}
的参数之一。假设我们的数据采集计划将要独立地抽样
n
{\displaystyle n}
次，得到一个随机样本
{
X
1
,
…
,
X
n
}
{\displaystyle \{X_{1},\ldots ,X_{n}\}}
，注意这里所有的
X
i
{\displaystyle X_{i}}
都是随机的，我们是在讨论一个尚未被观测的数据集。如果存在统计量（统计量定义为样本
X
=
{
X
1
,
…
,
X
n
}
{\displaystyle X=\{X_{1},\ldots ,X_{n}\}}
的一个函数，且不得依赖于任何未知参数）
u
(
X
1
,
…
,
X
n
)
,
v
(
X
1
,
…
,
X
n
)
{\displaystyle u(X_{1},\ldots ,X_{n}),v(X_{1},\ldots ,X_{n})}
满足
u
(
X
1
,
…
,
X
n
)
<
v
(
X
1
,
…
,
X
n
)
{\displaystyle u(X_{1},\ldots ,X_{n}) 使得： P ( θ ∈ ( u ( X 1 , … , X n ) , v ( X 1 , … , X n ) ) ) = 1 − α {\displaystyle \mathbb {P} \left(\theta \in \left(u(X_{1},\ldots ,X_{n}),v(X_{1},\ldots ,X_{n})\right)\right)=1-\alpha } 则称 ( u ( X 1 , … , X n ) , v ( X 1 , … , X n ) ) {\displaystyle \left(u(X_{1},\ldots ,X_{n}),v(X_{1},\ldots ,X_{n})\right)} 为一个用于估计参数 θ {\displaystyle \theta } 的 1 − α {\displaystyle 1-\alpha } 置信区间，其中的， 1 − α {\displaystyle 1-\alpha } 称为置信水平， α {\displaystyle \alpha } 在假设检验中也称为显著性水平。 对观测到的数据的定义 编辑 接续随机样本版本的定义，现在，对于随机变量 X {\displaystyle {\cal {X}}} 的一个已经观测到的样本 { x 1 , … , x n } {\displaystyle \{x_{1},\ldots ,x_{n}\}} ，注意这里用小写x表记的 x i {\displaystyle x_{i}} 都是已经观测到的数字，没有随机性了，定义基于数据的 1 − α {\displaystyle 1-\alpha } 置信区间为： ( u ( x 1 , … , x n ) , v ( x 1 , … , x n ) ) {\displaystyle \left(u(x_{1},\ldots ,x_{n}),v(x_{1},\ldots ,x_{n})\right)} 注意，置信区间可以是单尾或者双尾的，单尾的置信区间中设定 u = − ∞ {\displaystyle u=-\infty } 或者 v = + ∞ {\displaystyle v=+\infty } ，具体前者还是后者取决于所构造的置信区间的方向。 初学者常犯一个概念性错误，是将基于观测到的数据所同样构造的置信区间的置信水平，误认为是它包含真实未知参数的真实值的概率。正确的理解是：置信水平只有在描述这个同样构造置信区间的过程（或称方法）的意义下才能被视为一个概率。一个基于已经观测到的数据所构造出来的置信区间，其两个端点已经不再具有随机性，因此，类似的构造的间隔将会包含真正的值的比例在所有值中，其包含未知参数的真实值的概率是0或者1，但我们不能知道是前者还是后者[3]。 例子 编辑 例1：正态分布，已知总体方差 σ 2 {\displaystyle \sigma ^{2}} 编辑 1 − α {\displaystyle 1-\alpha } 水平的正态置信区间为： ( x ¯ − z α / 2 σ n , x ¯ + z α / 2 σ n ) {\displaystyle \left({\bar {x}}-z_{\alpha /2}{\frac {\sigma }{\sqrt {n}}},{\bar {x}}+z_{\alpha /2}{\frac {\sigma }{\sqrt {n}}}\right)} (双尾) ( − ∞ , x ¯ + z α σ n ) {\displaystyle \left(-\infty ,{\bar {x}}+z_{\alpha }{\frac {\sigma }{\sqrt {n}}}\right)} (单尾) ( x ¯ − z α σ n , + ∞ ) {\displaystyle \left({\bar {x}}-z_{\alpha }{\frac {\sigma }{\sqrt {n}}},+\infty \right)} (单尾) 以下为方便起见，只列出双尾置信区间的例子，且区间中用" ± {\displaystyle \pm } "进行简记： 例2：正态分布，未知总体方差 σ 2 {\displaystyle \sigma ^{2}} 编辑 1 − α {\displaystyle 1-\alpha } 水平的双尾正态置信区间为： ( x ¯ ± t n − 1 ; α / 2 s n ) {\displaystyle \left({\bar {x}}\pm t_{n-1;\alpha /2}{\frac {s}{\sqrt {n}}}\right)} 例3：两个独立正态样本 编辑 设有两个独立正态样本 x {\displaystyle x} 和 y {\displaystyle y} ，样本大小为 m {\displaystyle m} 和 n {\displaystyle n} ，估计总体均值之差 μ 1 − μ 2 {\displaystyle \mu _{1}-\mu _{2}} ，假设总体方差未知但相等： σ 1 = σ 2 {\displaystyle \sigma _{1}=\sigma _{2}} (如果未知且不等就要应用Welch公式（英语：Welch's t-test）来确定t分布的自由度) 1 − α {\displaystyle 1-\alpha } 水平的双尾正态置信区间为： ( x ¯ − y ¯ ± t m + n − 2 ; α / 2 ⋅ s p ⋅ 1 m + 1 n ) {\displaystyle \left({\bar {x}}-{\bar {y}}\pm t_{m+n-2;\alpha /2}\cdot s_{p}\cdot {\sqrt {{\frac {1}{m}}+{\frac {1}{n}}}}\right)} ，其中 s p = ( m − 1 ) s x 2 + ( n − 1 ) s y 2 m + n − 2 {\displaystyle s_{p}={\sqrt {\frac {(m-1)s_{x}^{2}+(n-1)s_{y}^{2}}{m+n-2}}}} 且 s x , s y {\displaystyle s_{x},s_{y}} 分别表示 x {\displaystyle x} 和 y {\displaystyle y} 的样本标准差。 常见误解 编辑 从常态分布产生的50个样本中得出的50个信赖区间 信赖区间及信心水准常被误解，出版的研究也显示出既使是专业的科学家也常做出错误的诠释。[4][5][6][7][8][9] 以95%的信赖区间来说，建构出一个信赖区间，不代表分布的参数有95%的机率会落在该信赖区间内（也就是说该区间有95%的机率涵盖了分布参数）。 [10]依照严格的频率学派诠释，一旦信赖区间被建构完全，此区间不是涵盖了参数就是没涵盖参数，已经没有机率可言。95%机率指的是建构信赖区间步骤的可靠性，不是针对一个特定的区间。[11]内曼本人（信赖区间的原始提倡者）在他的原始论文提出此点：[12]“在上面的叙述中可以注意到，机率是指统计学家在未来关心的估计问题。事实上，我已多次说明，正确结果的频率会趋向于α。考虑到一个样本已被抽取，[特定端点]也已被计算完成。我们能说在这个特定的例子里真值[落到端点中]的机率等于α吗？答案明显是否定的。参数是未知的常数，无法做出对其值的机率叙述……” Deborah Mayo针对此点进一步说道：[13]“无论如何必须强调，在看到[资料的]数值后，Neyman–Pearson理论从不允许做出以下结论，特定产生的信赖区间涵盖了真值的机率或信心为(1 − α)100%。Seidenfeld的评论似乎源于一种（并非不寻常的）期望，Neyman–Pearson信赖区间能提供他们无法合理提供的，也就是未知参数落入特定区间的机率大小、信心高低或支持程度的测度。随著Savage (1962)之后，参数落入特定区间的机率可能是指最终精密度的测度。最终精密度的测度令人向往而且信赖区间又常被(错误地)解释成可提供此测度，然而此解释是不被保证的。无可否认的，‘信赖’二字助长了此误解。” 95%信赖区间不代表有95%的样本资料落在此信赖区间。 信赖区间不是样本参数的可能值的确定范围，虽然它常被启发为可能值的范围。 从一个实验中算出的一个95%信赖区间，不代表从不同实验得到的样本参数有95%落在该区间中 [8] 构造法 编辑 一般来说，置信区间的构造需要先找到一个枢轴变量（pivotal quantity，或称pivot），其表达式依赖于样本以及待估计的未知参数(但不能依赖于总体的其它未知参数)，其分布不依赖于任何未知参数。 下面以上述例2为例，说明如何利用枢轴变量构造置信区间。对于一个正态分布的随机样本 X 1 , … , X n {\displaystyle {X_{1},\ldots ,X_{n}}} ，可以证明(此证明对初学者并不容易)如下统计量互相独立： X ¯ = 1 n ∑ i = 1 n X i {\displaystyle {\bar {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}} 和 S 2 = ∑ i = 1 n ( X i − X ¯ ) 2 n − 1 {\displaystyle S^{2}={\frac {\sum _{i=1}^{n}\left(X_{i}-{\bar {X}}\right)^{2}}{n-1}}} 它们的分布是： X ¯ − μ σ / n ∼ N ( 0 , 1 ) {\displaystyle {\frac {{\bar {X}}-\mu }{\sigma /{\sqrt {n}}}}\sim N(0,1)} 和 ( n − 1 ) S 2 σ 2 ∼ χ n − 1 2 {\displaystyle (n-1){\frac {S^{2}}{\sigma ^{2}}}\sim \chi _{n-1}^{2}} 所以根据t分布的定义，有 t = X ¯ − μ S / n ∼ t n − 1 {\displaystyle t={\frac {{\bar {X}}-\mu }{S/{\sqrt {n}}}}\sim t_{n-1}} 于是反解如下等式左边括号中的不等式 P ( − t n − 1 ; α / 2 < t = X ¯ − μ S n < t n − 1 ; α / 2 ) = 1 − α {\displaystyle \mathbb {P} \left(-t_{n-1;\alpha /2} 就得到了例2中双尾置信区间的表达式。 与参数检验的联系 编辑 有时，置信区间可以用来进行母数检验。例如在上面的例1中构造的双尾 1 − α {\displaystyle 1-\alpha } 水平置信区间，可以用来检验具有相应的显著水平为 α {\displaystyle \alpha } 的双尾对立假说，具体地说是如下检验： 正态分布总体，知道总体方差 σ 2 {\displaystyle \sigma ^{2}} ，在 α {\displaystyle \alpha } 显著水平下检验： H 0 : μ = μ 0 {\displaystyle H_{0}:\mu =\mu _{0}} vs H 1 : μ ≠ μ 0 {\displaystyle H_{1}:\mu \neq \mu _{0}} 检验方法是：当（且仅当）相应的 1 − α {\displaystyle 1-\alpha } 水平置信区间不包含 μ 0 {\displaystyle \mu _{0}} 时拒绝零假设 H 0 {\displaystyle H_{0}} 例1中构造的双尾 1 − α {\displaystyle 1-\alpha } 水平置信区间也可以用来检验如下两个显著水平为 α / 2 {\displaystyle \alpha /2} 的单尾对立假设： H 0 : μ ≤ μ 0 {\displaystyle H_{0}:\mu \leq \mu _{0}} vs H 1 : μ > μ 0 {\displaystyle H_{1}:\mu >\mu _{0}} 和 H 0 : μ ≥ μ 0 {\displaystyle H_{0}:\mu \geq \mu _{0}} vs H 1 : μ < μ 0 {\displaystyle H_{1}:\mu <\mu _{0}} 检验方法是完全类似的，比如对于上述第一个单尾检验 H 1 : μ > μ 0 {\displaystyle H_{1}:\mu >\mu _{0}} ，当且仅当双尾置信区间的左端点大于 μ 0 {\displaystyle \mu _{0}} 时拒绝零假设。 参考文献 编辑 ^ Brittany Terese Fasy; Fabrizio Lecci; Alessandro Rinaldo; Larry Wasserman; Sivaraman Balakrishnan; Aarti Singh. Confidence sets for persistence diagrams. The Annals of Statistics. 2014, 42 (6): 2301–2339. ^ Box, George EP; Tiao, George C. Bayesian inference in statistical analysis. John Wiley & Sons. 2011. ^ Moore, D; McCabe, George P; Craig, B. Introduction to the Practice of Statistics. San Francisco, CA: Freeman. 2012. ^ Kalinowski, Pawel. Identifying Misconceptions about Confidence Intervals (PDF). 2010 [2021-12-22]. （原始内容 (PDF)存档于2022-01-21）. ^ Archived copy (PDF). [2014-09-16]. （原始内容 (PDF)存档于2016-03-04）. ^ Hoekstra, R., R. D. Morey, J. N. Rouder, and E-J. Wagenmakers, 2014. Robust misinterpretation of confidence intervals. Psychonomic Bulletin Review, in press. [1] （页面存档备份，存于互联网档案馆） ^ Scientists’ grasp of confidence intervals doesn’t inspire confidence （页面存档备份，存于互联网档案馆）, Science News, July 3, 2014 ^ 8.0 8.1 Greenland, Sander; Senn, Stephen J.; Rothman, Kenneth J.; Carlin, John B.; Poole, Charles; Goodman, Steven N.; Altman, Douglas G. Statistical tests, P values, confidence intervals, and power: a guide to misinterpretations. European Journal of Epidemiology. April 2016, 31 (4): 337–350. ISSN 0393-2990. PMC 4877414 . PMID 27209009. doi:10.1007/s10654-016-0149-3. ^ Helske, Jouni; Helske, Satu; Cooper, Matthew; Ynnerman, Anders; Besancon, Lonni. Can Visualization Alleviate Dichotomous Thinking? Effects of Visual Representations on the Cliff Effect. IEEE Transactions on Visualization and Computer Graphics (Institute of Electrical and Electronics Engineers (IEEE)). 2021-08-01, 27 (8): 3397–3409. ISSN 1077-2626. PMID 33856998. S2CID 233230810. arXiv:2002.07671 . doi:10.1109/tvcg.2021.3073466. ^ Morey, R. D.; Hoekstra, R.; Rouder, J. N.; Lee, M. D.; Wagenmakers, E.-J. The Fallacy of Placing Confidence in Confidence Intervals. Psychonomic Bulletin & Review. 2016, 23 (1): 103–123. PMC 4742505 . PMID 26450628. doi:10.3758/s13423-015-0947-8. ^ 1.3.5.2. Confidence Limits for the Mean. nist.gov. [2014-09-16]. （原始内容存档于2008-02-05）. ^ Neyman, J. Outline of a Theory of Statistical Estimation Based on the Classical Theory of Probability. Philosophical Transactions of the Royal Society A. 1937, 236 (767): 333–380. Bibcode:1937RSPTA.236..333N. JSTOR 91337. doi:10.1098/rsta.1937.0005 . ^ Mayo, D. G. (1981) "In defence of the Neyman–Pearson theory of confidence intervals" （页面存档备份，存于互联网档案馆）, Philosophy of Science, 48 (2), 269–280. JSTOR 187185 参考书目 编辑 罗纳德·费雪 (1956) Statistical Methods and Scientific Inference. Oliver and Boyd, Edinburgh. (See p. 32.) 弗罗因德 (1962) Mathematical Statistics Prentice Hall, Englewood Cliffs, NJ. (See pp. 227–228.) 伊安·海金 (1965) Logic of Statistical Inference. Cambridge University Press, Cambridge 齐平 (1962) Introduction to Statistical Inference. D. Van Nostrand, Princeton, NJ. 杰克·基弗(1977) "Conditional Confidence Statements and Confidence Estimators (with discussion)" Journal of the American Statistical Association, 72, 789–827. 泽西·内曼 (1937) "Outline of a Theory of Statistical Estimation Based on the Classical Theory of Probability" Philosophical Transactions of the Royal Society of London A, 236, 333–380. (Seminal work.) G.K.罗宾逊 (1975) "Some Counterexamples to the Theory of Confidence Intervals." Biometrika, 62, 155–161.