根据观测某一随机过程的结果，对另一与之有关的随机过程进行估计的概率理论与方法。滤波一词起源于通信理论，它是从含有噪声或干扰的接收信号中提取有用信号分量的一种技术。这里，“接收信号”相当于被观测的随机过程，“有用信号”相当于被估计的随机过程。例如用雷达跟踪飞机，测得的飞机位置数据中，含有量测误差及其他随机干扰，如何利用它们尽可能准确地估计出飞机在每一时刻的位置、速度、加速度等，并预测飞机未来的位置，就是一个滤波与预测的问题。这类问题在电子技术、航天科学、控制工程及其他科学技术部门中都是大量存在的。
按照滤波是在一整段时间上进行或只是在某些采样点上进行，可分为连续时间滤波与离散时间滤波。前者的时间参数集T可取为实半轴【0,∞)或实轴(-∞,∞);后者的T可取为非负整数集{0,1,2,…}或整数集{…,-2,-1，0,1,2,…}。设X={X,t∈T={Y,t∈T)有穷，即data/attachment/portal/201111/06/091813m5nftnbwkcfeeeff.gif其中X为被估计过程，它不能被直接观测；Y为被观测过程,它包含了X的某些信息。用data/attachment/portal/201111/06/091813559aw6az755auwi6.gif表示到时刻t为止的观测数据全体，如果能找到data/attachment/portal/201111/06/091813quzxkjh5v1ukh5zk.gift中诸元的一个函数?(data/attachment/portal/201111/06/091813quzxkjh5v1ukh5zk.gift),使其均方误差data/attachment/portal/201111/06/091813d5rtilcbrglbyc0i.gif达到极小，就称data/attachment/portal/201111/06/0918130as2bjq5fbztkak7.gif为Xt的最优滤波；如果取极小值的范围限于线性函数,就称data/attachment/portal/201111/06/0918130as2bjq5fbztkak7.gif为Xt的线性最优滤波。可以证明,最优滤波与线性最优滤波都以概率1惟一存在。对于前者,憫t就是Xt关于σ(data/attachment/portal/201111/06/091813quzxkjh5v1ukh5zk.gift)（data/attachment/portal/201111/06/091813quzxkjh5v1ukh5zk.gift生成的σ域）的条件期望，记作data/attachment/portal/201111/06/0918130mc2h3zb8z82bge3.gif对于后者，若进一步设均值EXt呏EYt呏0,则憫t就是Xt在data/attachment/portal/201111/06/091813quzxkjh5v1ukh5zk.gift所张成的希尔伯特空间上的投影，记作data/attachment/portal/201111/06/091813kxox8iox6oki3mik.gif如果(X,Y)是二维正态过程，则最优滤波与线性最优滤波是一致的。
为了应用和叙述的方便，有时还把上面的定义更细致地加以分类。设τ为一确定的实数或整数，且考虑被估计过程为
data/attachment/portal/201111/06/091813jll2zlekllx5lx28.gif。或data/attachment/portal/201111/06/091813r9bit2o2zzesb9si.gifdata/attachment/portal/201111/06/0918137zxa3ko7uyuueekn.gif。按照τ＝0、τ>0、τ0的情形，则变成在无误差观测条件下X本身的线性预测问题；如果N≠0、τ≤0，则变成从受到噪声N干扰的接收信号Y中提取有用信号X的滤波问题。1939～1941年，Α.Η.柯尔莫哥洛夫利用平稳序列的沃尔德分解（见平稳过程），给出了线性预测的一般理论与处理办法，随即被推广到连续时间的平稳过程。N.维纳则在1942年对于平稳序列与过程的谱密度存在且满足某种正则条件的情形，利用谱分解导出了线性最优预测和滤波的明显表达式，即维纳滤波公式，并在防空火力控制、电子工程等部门获得了应用。上述模型在50年代被推广到仅在有限时间区间内进行观测的平稳过程以及某些特殊的非平稳过程，其应用范围也扩充到更多的领域。至今它仍是处理各种动态数据（如气象、水文、地震勘探等）及预测未来的有力工具之一。
维纳滤波公式是通过平稳过程的谱分解导出的，难以推广到较一般的非平稳过程和多维情形，因而应用范围受到限制。另一方面，在不断增加观测结果时，不易从已算出的滤波值及新的观测值较简单地求出新的滤波值，特别是不能满足在电子计算机上快速处理大量数据的需要。
卡尔曼滤波由于高速电子计算机的发展以及测定人造卫星轨道和导航等技术问题的需要，R.E.卡尔曼与R.S.布西于20世纪60年代初期提出了一类新的线性滤波的模型与方法，通称为卡尔曼滤波。其基本假设是，被估计过程X为随机噪声影响下的有限阶多维线性动态系统的输出，而被观测的Yt则是Xt的部分分量或其线性函数与量测噪声的叠加，这里并不要求平稳性，但要求不同时刻的噪声值是不相关的。此外，观测只需从某一确定时刻开始，而不必是无穷长的观测区间。更重要的是，适应电子计算机的特点，卡尔曼滤波公式不是将估计值data/attachment/portal/201111/06/091813sfmsmfjyz21i33m8.gif表成观测值data/attachment/portal/201111/06/091813quzxkjh5v1ukh5zk.gift的明显的函数形式，而是给出它的一种递推算法(即实时算法)。具体地说，对于离散时间滤波，只要适当增大X的维数,就可以将t时刻的滤波值data/attachment/portal/201111/06/0918134affj8sau4jvfk1v.gif表成为前一时刻的滤波值data/attachment/portal/201111/06/0918132rt6ez5wd0rangdt.gif与本时刻的观测值Yt的某种线性组合。对于连续时间滤波,则可以给出data/attachment/portal/201111/06/0918134affj8sau4jvfk1v.gif与Yt所应满足的线性随机微分方程。在需要不断增加观测结果和输出滤波值的情形，这样的算法加快了处理数据的速度,而且减少了数据存贮量。卡尔曼还证明,如果所考虑的线性系统满足某种“可控性”和“可观测性”（这是现代控制理论中由卡尔曼提出的两个重要概念），那么最优滤波一定是“渐近稳定”的。大致说来，就是由初始误差、舍入误差及其他的不准确性所引起的效应，将随着滤波时间的延长而逐渐消失或趋于稳定,不致形成误差的积累。这在实际应用上是很重要的。
卡尔曼滤波也有多种形式的推广，例如放宽对噪声不相关性的限制，用线性系统逼近非线性系统，以及所谓“自适应滤波”，等等，并获得了日益广泛的应用。
非线性滤波前已说明，一般的非线性最优滤波可归结为求条件期望data/attachment/portal/201111/06/091813fynyonya7wiqyoa1.gif的问题。对于有限多个观测值的情形，条件期望原则上可以用贝叶斯公式来计算。但即使在比较简单的场合，这样得出的结果也是相当繁杂的，无论对实际应用或理论研究都很不方便。与卡尔曼滤波类似，人们也希望能给出非线性滤波的某种递推算法或它所满足的随机微分方程。但一般它们并不存在，因此必须对所讨论的过程X与Y加以适当的限制。非线性滤波的研究工作相当活跃，它涉及随机过程论的许多近代成果，如随机过程一般理论、鞅、随机微分方程、点过程等。其中一个十分重要的问题，是研究在什么条件下，存在一个鞅M，使得在任何时刻,M和Y都包含同样的信息；这样的M称为Y的新息过程。目前对于一类所谓“条件正态过程”，已经给出了非线性最优滤波的可严格实现的递推算式。在实际应用上，对非线性滤波问题往往采用各种线性近似的方法。