作者｜洪亮劼
编辑｜李佳
概率统计知识与数据专家的平常工作，以及一个人工智能项目的正常运作都密切关联，概率统计知识正在人工智能中发挥着越来越重要的功效。本文摘自洪亮劼在极客时间 App 开设的付费专栏“AI 技术内参”。 10′完整音频请在【极客时间】收听。
写在前面
学习人工智能的工程师，乃至是在人工智能关联行业从业的数据专家，常常都不注重概率统计知识的学习和培养。有人认为概率统计知识已然过时了，此刻是拥抱繁杂的设备学习模型的时候了。实质上，概率统计知识和数据专家的平常工作，以及一个人工智能项目的正常运作都密切关联，概率统计知识正在人工智能中发挥着越来越重要的功效。
和设备学习同样，概率统计各个行业的知识以及科研成果浩如烟海。今天我就和你聊一聊，怎样从这么繁多的信息中，把握能够立即应用到实质问题中的概率统计知识，以及怎样快速入手有些核心知识，并能触类旁通学习到更加多的内容。
运用概率的语言
概率统计中的“概率”，针对学习和把握人工智能的许多方面都有着举足轻重的功效。这儿面最重要的，恐怕要数概率论中各样分布的定义。初学者常常会觉得这部分内容过于枯燥乏味，实质上，概率论中的各样分布就像是一门语言的基本单词，把握了这些基本的“建模语言”单词，才可在设备学习的各个行业游刃有余。
值得重视的是，日前火热的深度学习模型，以及在之前一段时间霸占设备学习统治地位的概率图模型（Probabilistic Graphical Models），都依赖于概率分布做为这些框架的基本建模语言。因此呢，能够真正把握这些分布就显出尤为重要。
针对分布的把握其实能够很容易。只要对少量几个分布有必定的认识后，就能够很容易地扩展开来。首要，当你遇到一个实质场景的时候，你要问自己的第1个问题是，这个场景是针对离散结果建模还是针对连续数值建模？这是一个最重要的分支决策，让你选取正确的建模工具。
当面对离散结果的时候，最需要把握的分布其实便是三个：
伯努利分布
多项分布
泊松分布
这三种分布是其他离散分布的重要基本。针对这三种分布，记忆其实亦相对容易。例如，任何时候，倘若你的场景是一个二元问题（例如用户是不是点击，是不是购买），伯努利分布都是最直接的选取。当你遇到的场景需要有多于两种选取的时候，那自然就用多项分布。另一，文本建模常常能够看做这般一个问题，那便是在特定语境下，怎样从上千乃至上万的可能性中选取出最恰当的字词，因此呢多项分布亦广泛应用在文本建模行业。泊松分布则常常用在对可数的整数进行建模，例如有些物品的总个数。
认识应用场景和她们所对应的分布之间的联系，是把握这些“语言”的重要环节。当你面临的问题是连续数值的时候，绝大都数状况下，你需要把握和理解正态分布，有时候叫作为高斯分布。正态分布的重要性是再怎么强调都不为过的。任何你能够想到的场景，几乎都能够用正态分布来建模。因为中心极限定理的存在，在大规模数据的状况下，非常多其他分布都能够用正态分布来近似或模拟。因此呢，倘若说学习概率知识中你只需要把握一种分布的话，那无疑便是正态分布。
在理解概率分布的过程中，还需要逐步创立起关于“随机数”和“参数”的概念。衡量一个分布是离散还是连续，指的是它产生的“随机数”是离散还是连续，和这个分布的“参数”无关系。例如伯努利分布是一个离散分布，然则伯努利分布的参数则是一个介于 0 和 1 之间的实数。理解这一点常常是初学者的阻碍。另一，创立起参数的概念以后，所有的分布就有了模型（亦便是分布本身）和参数的估计过程两个方面。这对理解设备学习中模型和算法的分离有很直接的帮忙。
当理解了这些概率最基本的语言以后，下面需要做的便是，认识贝叶斯统计中，怎么针对概率分布定义先验概率，又怎么推导后验概率。
认识贝叶斯统计不是说必定要做比较困难的贝叶斯估计，而是说，怎么利用先验概率去对繁杂的现实状况进行建模。例如说，针对用户是不是购买某一件商品而言，这个问题能够用一个伯努利分布来建模。假如咱们又想描述男性和女性可能先天上就对这个商品有不同的偏好，这个时候，咱们就能够在伯努利分布的参数上做文案。
亦便是说，咱们能够认为男性和女性持有区别的参数，然而这两个参数都来自一个一起的先验概率分布（亦能够认为是所有人群的购买偏好）。那样这个时候，咱们就创立起了一个拥有先验的模型来描述数据。这个思维过程是需要初学者去琢磨和把握的。
假设检验
倘若说概率基本是通常学习人工智能技术工程师和数据专家的薄弱环节，假设检验常常便是被彻底遗忘的角落。我接触过的非常多统计背景毕业的科研生乃至博士生，都不可对假设检验完全理解吃透。实质上，假设检验是现实数据分析和数据制品得以演化的核心过程。
针对一款数据制品，尤其是已然上线的制品来讲，能够连续地做线上 A/B 测试，经过 A/B 测试检测重要的制品指标，从而指点制品迭代，已然作为制品成败的关键原因。这儿面，经过 A/B 测试衡量制品指标，或多或少便是做某种形式的假设检验。
你期望加强制品性能，那样怎样理解假设检验，选择合适的工具，理解 P 值等一系列细节就至关重要，这些细节决定了你辛辛苦苦运用的繁杂人工智能模型算法是不是有实质功效。
首要，咱们要熟练假设检验的基本设定。例如，咱们常常把此刻的系统状况（比方说用户的点击率、购买率等）当做零假设，或一般叫做 H0。而后把咱们改进的系统状况或算法产生的结果，叫做备择假设，或叫做 H1。
接下来，一个重要的过程便是检验日前的实验环境，看是不是满足有些标准检验的假设环境，例如 T 检验、Z 检验等。这一步常常会困惑初学者乃至是有经验的数据专家。一个非常粗略的窍门则是，由于中心极限定理的存在，Z 检验一般是一个能够缺省运用的检验，亦便是说，在绝大都数状况下，倘若咱们持有海量数据可供运用，通常会选取 Z 检验。当然，针对初学者而言，最常规的亦是最需要的便是把握 T 检验和 Z 检验，而后会灵活运用。
在选取了需要的检验以后，就要计算相应的统计量。而后按照相应的统计量以及咱们选好的检验，就能够得到一系列的数值，例如 P 值。而后利用 P 值以及咱们预先设定的一个范围值，例如经常设置的 0.95（或说 95%），咱们常常就能够确定，H1 是不是在统计道理上和 H0 区别。倘若 H1 表率着新算法、新模型，亦就寓意着新结果比老系统、老算法有可能要好。
需要你重视的是，这儿说的是“有可能”，而不是“必定”、“确定”。从本质上来讲，假设检验并不是金科玉律。假设检验本身便是一个统计推断的过程。咱们在假设检验的流程中计算的，其实是统计量在 H0 假设下的分布中显现的可能性。可能性低，只能说，咱们观测到的现象或数值并不支持咱们的 H0，但这个流程并无去验证这些现象或数值是不是更加支持 H1。
另一，即便“可能性”低，亦并不表率绝对不显现。这亦是初学者常常过度相信假设检验所带来的问题。比较正确的对待假设检验的态度，便是把这个流程供给的结果当做工具，与更加繁杂的决策过程结合起来，从而对日前的系统、日前的制品有一个综合的分析。
值得重视的是，和假设检验相关联的一个概念“置信区间”常常亦很容易被忽略。尽管初看无太大功效，置信区间其实被广泛应用在举荐系统的“利用和探索”（Exploitation & Exploration）策略中。因此呢，明白置信区间的概念特别有益处，对实质的计算有很大帮忙。
因果推论
最后我想提一下因果推论（Causal Inference）。因果推论不是通常的统计教科书或工程类学生接触到的统计教科书里的基本内容。然而近期几年，这个行业在设备学习界得到了越来越多的关注。针对学习设备学习前沿知识的伴侣来讲，认识因果推论非常必要。
同期，针对工程制品而言，并不是所有状况都能经过 A/B 测试来对一个期盼测试的内容、模型、制品设计进行测试，并在一按时间内找到恰当的结果。在非常多状况下是不可进行测试的。因此呢，怎样在不可进行测试的状况下，还能经过数据科研得出期望的结果，这便是因果推论的核心价值。基于此，越来越多的互联网机构起始关注这个技术。
针对都数人工智能工程师而言，因果推论所需要的场景其实无时无刻不陪同着咱们。一个平常的状况是，咱们需要用数据来训练新的模型或算法。这儿面的数据采集自日前线上的系统，例如一个资讯举荐系统。然而，此刻的线上系统是有必定偏差的，例如比较偏好举荐娱乐资讯。那样，这个偏差就会被记录到数据里，咱们收集的数据就侧重于娱乐资讯。那样，想要在一个有偏差的数据中，依然能够对模型和算法进行无偏差的训练和评测，就能够运用因果推论为设备学习带来的一系列工具。
小 * 结
今天我为你讲了把握概率统计基本知识的有些核心思路。一块来回顾下要点：
第1，学习概率分布的语言针对理解、乃至是创造新的设备学习模型和算法都有着重要功效。
第二，假设检验是常常被人工智能工程师和数据专家遗忘的知识。然而，它对咱们做制品研发却至关重要。
第三，因果推论是一个新兴的统计和设备学习结合的行业，期盼你能有所认识。
最后，给你留一个思考题，咱们之前说到假设检验约等于咱们计算统计量在 H0 里出现的可能性，那样，为何咱们不直接计算在 H1 里出现的可能性呢？
本文摘自洪亮劼在极客时间 App 开设的付费专栏“AI 技术内参”，欢迎扫描下图二维码在极客时间给我留言，和我一块讨论。
【AI 技术内参专栏 | 全年目录】 模块一：人工智能国际顶级学术会议深入诠释与技术展望（10 周上下）
模块二：人工智能核心技术剖析（32 周上下）
模块三：人工智能工程师、专家的养成和人工智能团队的构建（8 周上下）
模块四：人工智能业界热点（2 周上下）
极客时间 App 已在苹果商店上线，点击 阅读原文 即刻下载！
安卓版将于近期面世，敬请期待！
| 
发表于 2024-9-28 12:04:34
楼主