朴素贝叶斯分类假定类条件独立。即，给定样本的类标号，属性的值可以条件地相互独立。这一假定简化了计算。当假定成立时，与其它所有分类算法相比，朴素贝叶斯分类是最精确的。然而，在实践中，变量之间的依赖可能存在。 贝叶斯信念网络说明联合概率分布。它允许在变量的子集间定义类条件独立性。它提供一种因果关系的图形，可以在其上进行学习。这种网络也被称作信念网络、贝叶斯网络和 概率网络。为简洁计，我们称它为信念网络。

信念网络由两部分定义。第一部分是有向无环图，其每个结点代表一个随机变量，而每条弧代表一个概率依赖。如果一条弧由结点 Y 到 Z，则 Y 是 Z 的 双亲或 直接前驱，而 Z 是 Y 的 后继。给定其双亲，每个变量条件独立于图中的非后继。变量可以是离散的或连续值的。它们可以对应于数据中给定的实际属性，或对应于一个相信形成联系的“隐藏变量”（如，医疗数据中的综合病症）。