自学内容网 自学内容网

【贝叶斯公式】贝叶斯公式、贝叶斯定理、贝叶斯因子,似然比

一、是什么?

贝叶斯公式的本质在于它提供了一种在已有知识的基础上更新和调整我们对事件的信念的方式。具体来说,贝叶斯公式描述了后验概率(即在观察到某些证据后更新的概率)与先验概率(即在没有观察证据之前的概率)以及似然性(即在给定某种假设条件下观察到证据的概率)之间的关系。

贝叶斯公式可以表示为:

                               

其中:

P(A∣B) 是后验概率,即在事件 B 发生后,事件 A 发生的概率。

P(A) 是先验概率,即在观察到事件 B 之前,事件 A 发生的概率。

P(B∣A) 是似然概率,即在事件 A 发生的条件下,事件 B 发生的概率;本质是新获得的信息对事件的支持度。

P(B) 是边际概率,即事件 B 发生的总概率。

本质:

贝叶斯公式的核心在于知识的更新。它允许我们基于新获得的信息(证据)我们的信念进行调整,反映出在观察到证据后对不确定性的减少。先验概率反映了我们在观察数据之前的信念,而后验概率则是结合了数据后更新的信念。这种转变体现了如何利用已有的信息进行推理。

二、例子

例子来源:3BlueBrown的视频

【官方双语】贝叶斯定理,使概率论直觉化_哔哩哔哩_bilibiliicon-default.png?t=O83Ahttps://www.bilibili.com/video/BV1R7411a76r/?spm_id_from=333.1391.0.0&vd_source=ecbdfcacb078d0e3626e61248866cdc7

Steve是一个温顺而又井井有条的人,那么他会是一个图书馆管理员还是一位农民呢?

通过性格,图书馆管理员符合条件的有P(E|H)=40\%,而他是农民的概率是P(E|\sim H)=10\%。(似然概率)

他是图书馆管理员的可能性就一定大吗?

在现实世界中图书馆管理员和农民的数量比为1:20,所以现实中的图书馆管理员是P(H)=\frac{1}{21},农民是\frac{20}{21},(先验概率)

那么他是图书馆管理员的概率为:

P(H|E)=\frac{P(H)\cdot P(H|E)}{P(E)}=\frac{P(H)\cdot P(H|E)}{P(H)\cdot P(H|E)+P(\sim H)\cdot P(H|\sim E)}=\frac{4}{24}

本质

如果没有性格的信息,以我们的基础知识,我们认为他是图书馆管理员的概率为P(H)=\frac{1}{21}

加上性格信息P(E|H)=40\%

随后我们原先的认知改变为P(H|E)=P(H)\cdot \frac{P(H|E)}{P(H)\cdot P(H|E)+P(\sim H)\cdot P(H|\sim E)}

即认知由P(H)=\frac{1}{21}更新为P(H)\cdot \frac{P(H|E)}{P(H)\cdot P(H|E)+P(\sim H)\cdot P(H|\sim E)}=\frac{4}{24}

也可以由图形来理解:

如下图,先验概率为,即现实世界中图书馆管理员与农民的数量比为1:20

图书管理员中性格符合的有P(E|H)=40\%,农民中性格符合的有P(E|\sim H)=10\%

所要求的

                         P(H|E)=\frac{S_{1}}{S_{1}+S_{2}}=\frac{P(H)\cdot P(H|E)}{P(H)\cdot P(H|E)+P(\sim H)\cdot P(H|\sim E)}=\frac{4}{24}

三、从比率角度理解贝叶斯公式

理论来源:

【官方双语】医检阳性≠得了病?重新理解贝叶斯定理_哔哩哔哩_bilibiliicon-default.png?t=O83Ahttps://www.bilibili.com/video/BV1Ei4y1F72M/?spm_id_from=333.1391.0.0&vd_source=ecbdfcacb078d0e3626e61248866cdc7

3.1贝叶斯因子

(1)贝叶斯因子

在《二》中的例子中,贝叶斯因子为

\frac{P(E|H)}{P(E|\sim H)}=\frac{40\%}{10\%}=4

(2)在《二》中的例子中写成比率的形式,先验为1:20,后验为4:20,显然比率扩大了4倍,贝叶斯因子为4,所以

                                          后验比率=先验比率×贝叶斯因子

理解:在通过上面这个比率公式来理解贝叶斯公式时,更加符合直觉,还有一个好处是,即时改变了先验,也能很快地计算后验,因为这里地贝叶斯因子只与新获得的信息有关,而与先验无关,先验改变时,贝叶斯因子不改变。

3.2贝叶斯因子与似然比

(1)贝叶斯因子与似然比 

似然比,即似然概率的比值。它的本质在于它衡量了新获得的信息对两种假设的相对支持度,它不同于概率(即单一假设下事件发生的可能性),而是关注两个假设下数据出现的可能性对比。

本文中的贝叶斯因子即为似然比,在上述例子中新获得的信息是“性格温顺且井井有条”,其对“是图书馆管理员”的支持度为:P(E|H)=40\%,对“是农民”的支持度为:P(E|\sim H)=10\%。似然比为\frac{P(E|H)}{P(E|\sim H)}=\frac{40\%}{10\%}=4

(2)似然比定义:

(3)似然比定义解读

(4)似然比在诊断测试中的应用


原文地址:https://blog.csdn.net/m0_56997192/article/details/143494807

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!