色谱仪利用色谱柱先将混合物分离，然后利用检测器依次检测已分离出来的组分。色谱柱的直径为数毫米，其中填充有固体吸附剂或液体溶剂，所填充的吸附剂或溶剂称为固定相。与固定相相对应的还有一个流动相。流动相是一种与样品和固定相都不发生反应的气体，一般为氮或氢气。色谱仪待分析的样品在色谱柱顶端注入流动相，流动相带着样品进入色谱柱，故流动相又称为载气。载气在分析过程中是连续地以一定流速流过色谱柱的；而样品则只是一次一次地注入，每注入一次得到一次分析结果。样品在色谱柱中得以分离是基于热力学性质的差异。色谱仪固定相与样品中的各组分具有不同的亲合力（色谱仪对气固色谱仪是吸附力不同，对气液分配色谱仪是溶解度不同）。
当载气带着样品连续地通过色谱柱时，亲合力大的组分在色谱柱中移动速度慢，因为亲合力大意味着固定相拉住它的力量大。亲合力小的则移动快。4根柱管实际上是一根,只是用来表示样品中各组分在不同瞬间的状态。样品是由A、B、C3个组分组成的混合物。在载气刚将它们带入色谱柱时，三者是完全混合的色谱仪经过一定时间，即载气带着它们在柱中走过一段距离后，三者开始分离，再继续前进，三者便分离开，固定相对它们的亲合力是A>B>C，故移动速度是C＞B＞A。走在最前面的组分C首先进入紧接在色谱柱后的检测器，而后A和B也依次进入检测器。检测器对每个进入的组分都给出一个相应的信号。将从样品注入载气为计时起点，色谱仪到各组分经分离后依次进入检测器，检测器给出对应于各组分的最大信号（常称峰值）所经历的时间称为各组分的保留时间tr。实践证明,在条件（包括载气流速、固定相的材料和性质、色谱柱的长度和温度等）一定时,不同组分的保留时间tr也是一定的。因此，反过来可以从保留时间推断出该组分是何种物质。故保留时间就可以作为色谱仪器实现定性分析的依据。
检测器对每个组分所给出的信号，在记录仪上表现为一个个的峰，称为色谱峰。色谱峰上的极大值是定性分析的依据，而色谱峰所包罗的面积则取决于对应组分的含量，故峰面积是定量分析的依据。一个混合物样品注入后，由记录仪记录得到的曲线，称为色谱图。分析色谱图就可以得到定性分析和定量分析结果。