1. ${siteName}首页
  2. 文化

[美]威尔·库尔特（WillKurt）《趣学贝叶斯统计》作品简介与读书感悟

• • 阅读 201

牛顿许多杰出的数学家在17世纪取得了辉煌的成就,所以英国哲学家怀特海把17世纪称为“天才的世纪”。在闪耀的群星中,分别独立发明微积分的牛顿和戈特弗里德·威廉·莱布尼茨（GottfriedWilhelm

牛顿

许多杰出的数学家在17世纪取得了辉煌的成就，所以英国哲学家怀特海把17世纪称为“天才的世纪”。在闪耀的群星中，分别独立发明微积分的牛顿和戈特弗里德·威廉·莱布尼茨（Gottfried Wilhelm Leibniz）也许是其中最耀眼的天才。

1637年，法国哲学家笛卡儿在他的哲学著作《方法论》中，以附录的形式发表了《几何学》，其中包含了他创立的解析几何的核心原理，即解析几何的基础是平面直角坐标系。直角坐标系在代数和几何之间架起了一座桥梁，它使几何概念可以用代数形式来表示，几何图形也可以用代数形式来表示。笛卡儿的这一成就为微积分的创立奠定了基础。

1643年1月4日，牛顿（见图7.1）出生于英格兰林肯郡乡下的伍尔索普村。牛顿出生时，英格兰采用的仍然是儒略历，比我们现在通用的格里高利历要差10天，在儒略历中，他的生日是1642年的圣诞节。牛顿从小喜欢读书并喜欢制作各种机械模型，比如风车、水钟和日晷。1665年，从剑桥大学毕业后，牛顿回家乡林肯郡躲避鼠疫，待了两年。正是在这两年的清静时光中，牛顿取得了微积分和万有引力定律的伟大突破。牛顿将微积分称为“流数法”，并将微积分完美地应用于物理学中。在1688年发表的巨著《自然哲学的数学原理》中，牛顿用简洁的数学公式描述了万有引力定律和三大运动定律，从而奠定了经典物理学的基础。

图7.1 牛顿

除了在数学和物理学上的巨大贡献，牛顿在科学研究方法论上也贡献良多。在《自然哲学的数学原理》中，牛顿写道：“在自然科学里，应该像在数学里一样，在研究困难的事物时，总是应当先用分析的方法，然后才用综合的方法……一般来说，从结果到原因，从特殊原因到普遍原因，一直论证到最普遍的原因为止，这就是分析的方法；而综合的方法则假定原因已找到，并且已经把它们定为原理，再用这些原理去解释由它们发生的现象，并证明这些解释的正确性。”这一套科学的分析和综合的方法，配合上微积分这一强大的数学工具，通过“微分”实现从整体到部分的分析，“积分”实现从部分到整体的综合，为各个学科的科学研究都打下了坚实的基础。

微积分这一伟大的数学成果，深刻地反映了现实世界运行的本质，因此用途极广，在人工智能领域也被广泛使用。比如，在目前人工智能研究最火热的深度学习方向，其中最核心的反向传播算法，其数学基础仍然是微积分中的导数和收敛等概念。

莱布尼茨

莱布尼茨（见图7.2），1646年7月1日出生于德国的东部名城莱比锡，他的父亲是莱比锡大学的伦理学教授，在莱布尼茨6岁时去世，留下了一个私人的图书馆。莱布尼茨从小就很聪慧，12岁时自学拉丁文，大量阅读了父亲私人图书馆中的拉丁文古典著作。14岁时，莱布尼茨进入莱比锡大学攻读法律，20岁时他递交了一篇出色的博士论文，因为年纪太轻被拒（黑格尔认为是学识过于渊博的原因），第二年纽伦堡的一所大学授予他博士学位。

图7.2 莱布尼茨

[美]威尔·库尔特（WillKurt）《趣学贝叶斯统计》作品简介与读书感悟

在微积分的发明权归属方面，现在历史学家的共识是牛顿和莱布尼茨分别独立发明了微积分。莱布尼茨发明的时间晚，但发表在先（于1684年和1686年）。在微积分的表达形式方面，莱布尼茨花了很多精力去选择巧妙的记号，现代教科书中的积分符号“∫”和微分符号“dx”都是莱布尼茨发明的。

莱布尼茨有两个贡献深远地影响了后来的计算机科学。首先，莱布尼茨改进了布莱兹·帕斯卡（Blaise Pascal）的加法器，实现了可以计算乘法、除法和开方的机械计算机，这对后来的计算机先驱巴贝奇有很大的启发作用。更重要的是，他发现了二进制，二进制使得所有的整数都可以用简单的0和1两个数来表示，最终使得电子计算机中数字的存储和运算被大大简化。有趣的是，莱布尼茨后来看到中国《易经》中的六十四卦（见图7.3），他相信中国古人已经在其中巧妙地藏匿了二进制的奥秘。那一刻，也许莱布尼茨会有一种穿越时空，和2800年前创造《周易》的周文王姬昌心心相印的感觉吧。

图7.3 周易六十四卦

费马

1601年，费马生于法国南部小镇博蒙·德洛马涅，是一个富有的皮革商人的孩子。费马成年后的主要职业是法律顾问，业余时间几乎全部献给了数学研究，在数论和概率论等方面成果卓著，被誉为“业余数学家之王”。费马生前一直没有发表他的成果，幸亏他的长子克莱蒙意识到父亲业余研究成果的重要价值，花了5年时间整理了父亲写在书页间的评注，1670年最终出版了《附有皮埃尔·德·费马评注的丢番图的算术》一书，费马的伟大贡献才没有被湮没。

费马最著名的成果是费马大定理：当整数n＞2时，关于x、y、z的方程xn+yn=zn没有正整数解，如图7.4所示。费马把这个数论命题写在古希腊数学家丢番图的著作《算术》一书的空白处，在这个评注后面又加了一句：“对此命题我有一个非常美妙的证明，可惜此处的空白太小，写不下来。”此后的300多年，无数的数学家前仆后继，试图证明这一难题，在这个漫漫征途中，又催化出了“理想数”“莫德尔猜想”“谷山-志村猜想”等许多数学成果，有数学家甚至将费马大定理比作“下金蛋的鸡”。1995年，英国著名数学家安德鲁·怀尔斯（Andrew Wiles）在他以前的博士生理查德·泰勒的帮助下，基于无数前辈的工作，完成了最终的证明，论文的题目是《模椭圆曲线和费马大定理》（Modular eliptic curves and Fermat’s Last Theorem）。

图7.4 费马及费马大定理

和费马大定理相似，人工智能特别是所谓“强人工智能”的研究，也不断推动着计算机科学、认知科学等多个学科的发展，也可以被称为“下金蛋的鸡”，未来20年，可以期待有更多的精彩成果出现。

贝叶斯定理与贝叶斯网络

概率论作为数学领域的重要学科，欧拉、高斯、拉普拉斯等著名的数学大师都做出了重大贡献，在人工智能领域应用最多的也许是基于贝叶斯定理的贝叶斯网络。贝叶斯定理的发现者是英国牧师托马斯·贝叶斯（Thomas Bayes），他出生于1702年，为人非常谦虚低调，同时代的人都相信他是一个杰出的数学家，擅长微积分，对他其他方面的学术研究所知甚少。1761年贝叶斯去世后，他的家人找了另一位牧师理查德·普赖斯（Richard Price）来研究他未发表的数学文章，普赖斯在一篇题为《论机会游戏中的一个问题》（An Essaytowards Solvinga Probleminthe Doctrine of Chances）的文章中，看到了其中阐述的贝叶斯定理的重要性，帮助发表了这篇文章，并且努力宣传了贝叶斯的思想，才使这一杰出的数学发现没有被湮没。贝叶斯定理描述的是两个条件概率之间的关系，计算公式为：P（B|A）= P（A|B）·P（B）/ P（A），其中P（B|A）指的是A事件发生的情况下B事件发生的可能性，如图7.5所示。利用贝叶斯定理，我们可以把各种对世界的模型看作科学假设，将数据作为论据，随着我们观测到的数据越来越多，其中某些模型成立的可能性就越来越大，最终有可能淘汰绝大多数的模型，找出理想的模型来说明世界的运行规律。

图7.5 贝叶斯及贝叶斯定理

1988年，朱迪·珀尔（Judea Pearl）教授将贝叶斯定理引入人工智能领域，发明了贝叶斯网络，这种基于概率的机器推理模型使计算机能在复杂的、模糊的和不确定性的环境下工作，在很多情况下，贝叶斯网络的实用效果都优于此前完全基于规则的人工智能方法。贝叶斯网络在自然语言处理、故障诊断、语音识别等许多领域得到了广泛的运用，珀尔教授也因此获得2011年度的图灵奖，成为又一位荣获图灵奖的人工智能学者。在今天这样一个物联网不断进入各行各业的新时代，智能家居、自动驾驶汽车、智能手机、智慧城市中无数的传感器每时每刻都在产生亿万级的数据，基于贝叶斯网络、马尔科夫链等统计数学模型的人工智能算法必将取得更丰硕的应用成果。

数理逻辑的演化

1815年，乔治·布尔出生于英国东部的林肯镇，父亲是个补鞋匠。因家庭经济困难，布尔没有机会接受正规的教育，但聪明又勤奋的小布尔自学成才，16岁就开始当教师补贴家用，19岁时创办了自己的学校，从此挑起了整个家庭的经济重担。1847年，布尔出版了《逻辑的数学分析》，这本小书首次提出了布尔代数，把逻辑学带入了数理逻辑的时代。1854年，布尔出版了他的经典著作《思维规律的研究》（An Investigation of the Laws of Thought，见图7.6），更系统地阐述了布尔代数。布尔代数采用数学方法研究逻辑问题，成功地建立了逻辑演算的符号系统。例如，以x表示“白的东西”，y表示“绵羊”，xy则表示x集合与y集合的交集，即“白绵羊”。同时，可将真命题取作“1”值，假命题取作“0”值，这样，复杂的命题通过布尔代数的计算过程，就可以求得它为真值还是假值。布尔代数通过它与逻辑电路的完美对应关系，在现代电子计算机中得到了广泛的应用。

图7.6 布尔的经典著作《思维规律的研究》

1848年，另一位重要的逻辑学家弗里德里希·路德维希·戈特洛布·弗雷格（Friedrich Ludwig Gottlob Frege，见图7.7）出生于德国北部的海港城市维斯马（Wismar），1873年博士毕业后，弗雷格一直在母校耶拿大学任教，直到退休。1879年，弗雷格出版了《概念文字》（Begriffsschrift），书的副标题是“一种模仿算术语言构造的纯思维的形式语言”。1884年，弗雷格出版了他的另一部杰作《算术基础》。在这两部重要著作中，弗雷格进一步扩大数理逻辑学的内容，创造了“量化”逻辑，例如，“∀”称为全称量词，意味着“对于所有”，“∃”称为存在量词，意味着“存在着”，“每个人都会爱上某人”这句话，用逻辑语言可以写成“∀ x ∃ y Loves（x，y）”。弗雷格的创新思想，对现代的分析哲学和语言学，产生了极其重要的推动作用，也对今天的计算机程序设计语言，有着深远的影响。

图7.7 弗雷格

在弗雷格之后，来自英国剑桥大学的一批精英学者，包括怀特海、罗素、摩尔和维特根斯坦等人，继续推动着数理逻辑学的发展，其中，长寿而又兼备文学才华的罗素影响范围最广。罗素（见图7.8），出生于1872年，逝于1970年，经历过两次世界大战，目睹了大英帝国从巅峰向下的没落，也见证了计算机科学和人工智能的孕育和诞生。罗素出生于英国的贵族家庭，祖父约翰·罗素勋爵在19世纪40年代曾两次出任英国首相。罗素在2岁和4岁时相继失去了母亲和父亲，由祖父母抚养长大。1910年至1913年，罗素和他的老师怀特海一起出版了三卷本的《数学原理》（Principia Mathematica），为了完成这一部巨著，他们辛勤工作了整整9年。《数学原理》试图表明：所有的数学真理，在一组数理逻辑内的公理和推理规则下，原则上都是可以证明的。这一雄心勃勃的宏伟设想，后来被库尔特·哥德尔（Kurt Gödel）发表的“哥德尔不完备性定理”证明是不可能实现的。

图7.8 罗素

罗素和怀特海的《数学原理》启发了很多天才人物，与沃伦·麦卡洛克一起发明了MP神经元模型的沃尔特·皮茨，就曾经在12岁时苦读《数学原理》，还写信给罗素讨论他发现的问题，得到了罗素的极大赞赏并邀请他到剑桥大学读书。15岁时，沃尔特·皮茨离开家乡，到芝加哥大学去听罗素的讲座，逐步结识了鲁道夫·卡尔纳普（Rudolf Carnap）、杰罗姆·莱特温（Jerome Lettvin）、沃伦·麦卡洛克等人，最终创造了一个未受过正规教育的穷孩子成长为一个逻辑学家的传奇。他和沃伦·麦卡洛克一起发明的MP神经元模型，也成为人工智能中通过神经网络实现深度学习的理论基础。

罗素最受欢迎的著作是《西方哲学史》，这本哲学史著作写得幽默而又清晰简洁，同时又加入了作者本人作为大哲学家的真知灼见。1950年，罗素获得诺贝尔文学奖。颁奖词对他的介绍是：“他一生著述甚丰，涵盖极广。他论及人类知识和数理逻辑的科学著作具有划时代意义，堪与牛顿的机械原理媲美……在诺贝尔基金会设立50周年之际，瑞典学院相信自己正是按照诺贝尔设奖的精神把这份荣誉授予伯特兰·罗素，当代的理性和人道主义的杰出代言人，西方世界的言论自由和思想自由的无畏战士。”

哥德尔

哥德尔（见图7.9），1906年生于奥匈帝国的布尔诺（Brno），1924年开始在维也纳大学攻读物理，后来转到了数学系，1930年获博士学位。受他的老师逻辑学家莫里茨·石里克（Moritz Schlick）的影响，他开始参加维也纳学派的活动，与石里克、卡尔纳普等哲学大师一起讨论科学理论、客观存在和真理之间的关系。哥德尔一生发表的论著不多，1931年，一篇石破天惊的论文《〈数学原理〉及有关系统中的形式不可判定命题》发表。在论文中他证明了“哥德尔不完全性定理”，即数论的所有一致的公理化形式系统，都包含有不可判定的命题。也就是说，在数论的公理化形式系统中，总可以找出一个合理的命题来，在该系统中既无法证明它为真，也无法证明它为假。这篇论文对当时的数学家、逻辑学家和哲学家产生了震撼性的影响，可以说是20世纪在逻辑学和数学基础方面最重要的一篇论文，当时另一位极有才华的数学家冯·诺依曼评价说：“哥德尔在现代逻辑中的成就是非凡的、不朽的——他的不朽甚至超过了纪念碑，他是一个里程碑，是永存的纪念碑。”

[美]威尔·库尔特（WillKurt）《趣学贝叶斯统计》作品简介与读书感悟

图7.9 哥德尔

关于哥德尔的贡献与人工智能的关系，推荐一本非常有趣的好书《哥德尔、埃舍尔、巴赫——集异璧之大成》（Gödel、Escher、Bach-an Eternal Golden Braid），作者是一位研究人工智能的美国学者Douglas Hofstadter教授，他给自己起的中文名字叫侯世达。这部奇书，巧妙地将巴赫的音乐、埃舍尔的绘画和哥德尔的思想编织在一起，探讨了人工智能、人类心智、递归结构、图灵测试等充满智慧的主题。笔者至今还能回忆起20年前，在一个山顶的夕阳之下读这本书时，被书中描述的各种人类思维和艺术之美所震撼的感觉。在这本书的将近尾声之处，侯世达这样写道：“在巴赫的《音乐的奉献》中，事情往往在许多层次上发展。有关于音符和字母的技巧，有国王主题的精巧变奏，有各种原始形式的卡农，有复杂得异乎寻常的赋格，有优美并极其深沉的情感，甚至还有由作品发展的多层次性所带来的喜悦。《音乐的奉献》是一部赋格的赋格，很像埃舍尔和哥德尔所构造的那种缠结的层次结构，是一个智慧的结晶。它以一种我无法表达的方式使我想起了人类思维这个美妙的多声部赋格。”

在人工智能即将进入突破阶段的今天，相信从牛顿到哥德尔这些数学大师的思想，以及他们发明的各种精巧绝伦的数学理论和工具，将启发和引领更多的天才去破解人类思维和机器学习最终的奥秘。

……

上一篇 2022年12月18 04:33
下一篇 2022年12月23 10:56

相关推荐

关注微信