这个世界的真实逻辑存在于概率的微积分计算之中。 ——詹姆斯·克拉克·麦克斯韦

当我们说到“概率”，它是针对未发生的事物做某种猜测，我们之所以会猜测，是因为我们要基于不完整的信息或不太确定的知识去做判断。而“概率的理论”可以帮助我们更好的决策，它会谈及某种情况最有可能发生的次数，具有一致性（平均行为）。我们说，观察中的一个特定结果发生的概率是我们对重复的观察中该结果最有可能发生的次数进行预估。以扔硬币猜正反面为例，我们扔了硬币 N 次，正面出现的次数为 $N_A$，那么正面出现的概率为： \(P(A) = N_A/N\)

需要注意的是，我们谈及“某件事物（结果）的发生概率”仅仅适用于该事物是在一些重复的观察中可能出现的结果之一。我们需要假设每次观察都是基于相等的初始条件以及在开始阶段相同的未知程度。概率数值并不需要绝对的精确，因为它是基于我们的未知（一些限制），如果我们的知识改变了，它也会随之改变。

如果在一个观察中可能出现的结果有 m 种，每种结果发生的可能性是一样的或者是近似的，那么一个特定结果 A 的发生概率为： \(P(A) = 1/m\)

以之前“猜硬币”为例，每次抛掷，硬币要么是正面，要么是反面，所以出现正面的概率是 $1/2$；扔两个一样的骰子，每个骰子有六面，那么扔出两个一的概率为 $1/36$。