光学仪器形成分立图像能力的定量度量，又称分辨率。它分为成像仪器的像分辨本领和分光仪器的色分辨本领等两类。
由于镜头（光瞳）对光束的限制而产生的衍射效应，使物点发射的光波在像面上不可能成为一个像点，而是以像点为中心扩展为一定的强度分布，其中心斑就是夫琅和费衍射的零级斑，也叫做爱里斑。这就是说，即使不考虑所有几何像差，成像光学仪器也无法实现点物成点像的理想情况。因此，物面上相距很近的两个分离的物点，在像面上就可能成为两个互相重叠的衍射斑，这两个衍射斑甚至可能过度重叠，变得模糊一团，以致观察者无法辨认物方两个物点的存在。总之，物方图像是大量物点的集合，而变换到像面上的强度分布却是大量衍射斑的集合，它不可能准确地反映物面上的所有细节。为了给光学仪器规定一个分辨细节能力的统一标准，通常采用瑞利判据。瑞利判据规定，当一个像斑中心刚好落在另一个像斑边缘（即一级暗环）时，确认两个像斑刚刚可以分辨（见图b）。计算表明，满足瑞利判据时的两个像斑强度的不相干叠加的结果，其光强起伏量约为20％，正常人眼是能分辨这种光强差别的。当然对于客观的光接收器如乳胶底片、光电管之类，或其他传感器来说，也许并不苛求20％的起伏量作为它的可分辨的界限，但瑞利判据仍不失之作为一个相对标准，用以估算和比较光学仪器的分辨本领。
上述给出的仅是光谱仪中的核心元件(棱镜、光栅)的分辨本领，并不是整机的分辨本领。整机的分辨本领还与分光元件的角色散本领、线色散本领、仪器狭缝宽度（或传感器探头宽度），以及光源亮度、接收器灵敏度等诸因素有关。高亮度高单色性激光光源的出现，大大推动了高分辨本领的光谱仪的研制和高分辨光谱的研究工作。严格地说，最后测定的谱函数是入射的光谱线型函数与仪器扩展函数的卷积。从测定的谱函数中消除仪器函数的卷积，从而提取真实的光谱，这正是时兴的消卷积光谱仪的功能。