明天太阳还会升起吗?继承法则
古典概率是从原因推到结果:已知硬币是均匀的,正面的概率是多少?很多时候问题正好相反。我们看到了结果,想知道原因:看到某些结果之后,关于这枚硬币我们能说些什么?第一个用数学处理这种原因的概率的人是英国牧师托马斯·贝叶斯,他的论文在他去世后于 1763 年发表。拉普拉斯在 1774 年独立得出了同样的想法,当时并不知道贝叶斯;而发展并应用这些想法的,正是拉普拉斯。
未知的罐子
设想一个罐子里有白球和黑球,比例 $p$ 未知。我们对 $p$ 一无所知:0 到 1 之间的任何值看来都同样合理。我们取出 $n$ 个球(每次放回),全部是白球。下一个也是白球的概率是多少?
如果比例是 $p$,连续取出 $n$ 个白球的概率是 $p^n$。能更好解释观测结果的 $p$ 值获得更大的权重。用 $p^n$ 给每个 $p$ 加权,下一个是白球的概率就是 $p$ 按这些权重的平均:
$$P(\text{下一个是白球}) = \frac{\int_0^1 p \cdot p^n\,dp}{\int_0^1 p^n\,dp} = \frac{\frac{1}{n+2}}{\frac{1}{n+1}} = \frac{n+1}{n+2}.$$这就是拉普拉斯的继承法则。没有任何观测时($n = 0$),结果是 $\frac{1}{2}$。取出一个白球后是 $\frac{2}{3}$,十个之后是 $\frac{11}{12}$。更一般地,如果 $n$ 次中取出了 $s$ 个白球,下一个是白球的概率是 $\frac{s+1}{n+2}$。
下图显示了随着白球累积,权重曲线 $(n+1)p^n$ 的变化。它向 $p = 1$ 附近集中,却永远达不到确定:
日出
在 1814 年的《哲学随笔》中,拉普拉斯把这个法则用于一个后来很有名的例子。假设有记载的历史有 5000 年,即 $1\,826\,213$ 天,而太阳每一天都升起了。按照法则,明天太阳升起的概率是
$$\frac{1\,826\,214}{1\,826\,215},$$拉普拉斯说,可以用 $1\,826\,214$ 对 1 打赌明天太阳会升起。
但他在同一页上加了一条许多人忘记的保留:这个数字只适用于仅仅知道日出序列的人。他写道,懂得支配昼夜和四季的规律的人知道,现在没有任何东西能阻止太阳的运动,对这样的人来说,概率“大得无可比拟”。继承法则是在一无所知时剩下的东西。
练习:权重之和为 1
证明 $\int_0^1 p^n\,dp = \frac{1}{n+1}$,并由此推出图中曲线 $(n+1)p^n$ 的面积为 1、均值为 $\frac{n+1}{n+2}$。
$p^n$ 的一个原函数是 $\frac{p^{n+1}}{n+1}$,在 $p = 1$ 处等于 $\frac{1}{n+1}$,在 $p = 0$ 处等于 0。乘以 $n+1$,面积就是 1。均值为 $\int_0^1 p\,(n+1)p^n\,dp = (n+1)\cdot\frac{1}{n+2} = \frac{n+1}{n+2}$:恰好就是继承法则。
练习:十投九中,百投九十中
一名球员 10 次罚球命中 9 次,另一名 100 次命中 90 次。按照继承法则,每人下一次命中的概率是多少?
第一名:$\frac{9+1}{10+2} = \frac{10}{12} \approx 0.83$。第二名:$\frac{90+1}{100+2} = \frac{91}{102} \approx 0.89$。观测到的比例相同,都是 90%,但法则更相信数据更多的人:观测很少时,它会把估计往 $\frac{1}{2}$ 拉。
来源: Pierre-Simon Laplace,“Mémoire sur la probabilité des causes par les événements”,Mémoires de mathématique et de physique présentés à l’Académie 6(1774) · Pierre-Simon Laplace,Essai philosophique sur les probabilités(1814) · Thomas Bayes,“An Essay towards Solving a Problem in the Doctrine of Chances”,Philosophical Transactions 53(1763) · Stephen M. Stigler,“Laplace’s 1774 Memoir on Inverse Probability”,Statistical Science 1(1986) · Sharon Bertsch McGrayne,The Theory That Would Not Die(2011)。
拉普拉斯的全部主题 · ← 中心极限定理 · 拉普拉斯变换 →
图片来源.