第一章 贝叶斯推断的哲学

引言

从这章开始进入学习贝叶斯,我会通过相关书籍,文章,论文等等,不引入太多数学原理来描述贝叶斯(其实也是我本人的数学功底不太行(;-_-)。。。),鉴于我本人水平有限,有错误的地方可以在下面留言指正,不胜感激

尽管你是个编程高手,bug仍有可能在你开发的程序中存在。于是呢,你决定来个简单的测试,这个测试通过了,你再用一个稍微复杂的测试用例,再次通过了。接下来,更难的测试用例也通过了,这时,你开始觉得这段代码已经没有bug了

如果你开发程序或者你做其他事情的时候是这样子做的话,那么你已经是在用贝叶斯的方式在思考了!

贝叶斯推断

1.什么是贝叶斯推断

简单来说,贝叶斯推断是通过新得到的证据不断更新你对结果的信任程度,贝叶斯很少作出绝对的判断,但是可以做出非常可信的判断

2.工作原理

在引言中,我们无法100%肯定我们开发的程序是毫无缺陷的,除非我们穷举每一种可能出现的情况,这在实践中是不可能。

这让我想起给我们上计算机网络原理课崔如春老师给我们说的举的一个例子,开发好的一个系统刚上线几个星期内没什么问题,但在用户流量上来的时候开始出现奔溃……我们开发程序的过程难免会出现不确定的错误,有时候我们很难觉察到,需要在特殊的情况下bug才会出来

贝叶斯的推断工作方式就在这里,我们会随着新的证据地不断更新之前的信念,但却很少作出绝对的判断,除非所有的其他可能都被一一排除

贝叶斯思维

和更传统的统计推断不同,贝叶斯推断会保留不确定性。乍一听,像是一种糟糕的统计方法,难道我们所需要的,不是所有统计都是期望从随机性里推断出确定性吗?

频率派和贝叶斯派

在贝叶斯的世界观中,概率是被解释为我们队一件事情的发生的相信长度,也就是我们队这件事发生的信心,事实上这就是概率的自然解释

  1. 频率派看概率

    他们认为概率是时间在长时间发生的频率。例如在频率派的哲学语境中,飞机事故的概率是长期来看的,飞机事故的频率值

  2. 贝叶斯派看概率

    他们把概率解释为对事件发生的信心。例如同样在飞机事故情景下,如果除去所有外部因素,一个人对飞机事故发生的信心应该等同于他了解的飞机事故的频率

在贝叶斯思维中,每个人都可以给事件赋概率值,但这概率值不是唯一的,也就是说这个定义为个人之间的差异留有余地。不同的人即便对同一事件发生的信心也可以有不同的值,因为他们拥有不同的信息。这些不同并不说明其他人是错误。

应用场景

频率推断返回的是一个估计值,通常是统计量,而贝叶斯返回概率值

例如,在开发好的程序,你在会议上问频率函数和贝叶斯函数,聊天记录如下:

@频率函数:“我的代码通过了所有测试了,他没有bug了吧?!”

频率函数@:“yes!”

@贝叶斯:“你呢(期待下班的眼神)?!”

贝叶斯@:“80%的概率是yes,20%是no”

:“我……??!!”

会议上,一场腥风血雨在所难免……


 上一篇
第一篇 神经网络的工作原理 第一篇 神经网络的工作原理
1.1 灵感来源 一方面,有些任务,对传统的计算机而言很简单,对人类却很难。例如对数百万个数字进行运算。另一方面,有些任务对传统的计算机而言很难,对人类却很容易,比如从人群中识别认识的面孔 对于执行与计算器相匹配的任务来说,计算销售额,绘
2019-07-20
下一篇 
1.3二项分布与超几何分布 1.3二项分布与超几何分布
引言 现实中,产品抽样可分为两类,一是有放回抽样,二是无放回抽样。在有放回抽样中,被抽出的产品检验后仍然放回,所以在第二次抽取的时候,他仍然有可能被抽到。更常用的第二类不放回抽样,这时被抽到的产品不再放回,因此以后不会被抽取到。 不放回抽
  目录