光学显微镜一般由载物台、聚光照明系统、物镜，目镜和调焦机构组成。载物台用于承放被观察的物体。利用调焦旋钮可以驱动调焦机构，使载物台作粗调和微调的升降运动，使被观察物体调焦清晰成象。它的上层可以在水平面内沿作精密移动和转动，一般都把被观察的部位调放到视场中心。
聚光照明系统由灯源和聚光镜构成，聚光镜的功能是使更多的光能集中到被观察的部位。照明灯的光谱特性必须与显微镜的接收器的工作波段相适应。
物镜位于被观察物体附近，是实现第一级放大的镜头。在物镜转换器上同时装着几个不同放大倍率的物镜，转动转换器就可让不同倍率的物镜进入工作光路，物镜的放大倍率通常为5～100倍。
物镜是显微镜中对成象质量优劣起决定性作用的光学元件。常用的有能对两种颜色的光线校正色差的消色差物镜；质量更高的还有能对三种色光校正色差的复消色差物镜；能保证物镜的整个像面为平面，以提高视场边缘成像质量的平像场物镜。高倍物镜中多采用浸液物镜，即在物镜的下表面和标本片的上表面之间填充折射率为1.5左右的液体，它能显著的提高显微观察的分辨率。
目镜是位于人眼附近实现第二级放大的镜头，镜放大倍率通常为5～20倍。按照所能看到的视场大小，目镜可分为视场较小的普通目镜，和视场较大的大视场目镜(或称广角目镜)两类。
载物台和物镜两者必须能沿物镜光轴方向作相对运动以实现调焦，获得清晰的图像。用高倍物镜工作时，容许的调焦范围往往小于微米，所以显微镜必须具备极为精密的微动调焦机构。
显微镜放大倍率的极限即有效放大倍率，显微镜的分辨率是指能被显微镜清晰区分的两个物点的最小间距。分辨率和放大倍率是两个不同的但又互有联系的概念。
当选用的物镜数值孔径不够大，即分辨率不够高时，显微镜不能分清物体的微细结构，此时即使过度地增大放大倍率，得到的也只能是一个轮廓虽大但细节不清的图像，称为无效放大倍率。反之如果分辨率已满足要求而放大倍率不足，则显微镜虽已具备分辨的能力，但因图像太小而仍然不能被人眼清晰视见。所以为了充分发挥显微镜的分辨能力，应使数值孔径与显微镜总放大倍率合理匹配。
聚光照明系统是对显微镜成像性能有较大影响，但又是易于被使用者忽视的环节。它的功能是提供亮度足够且均匀的物面照明。聚光镜发来的光束应能保证充满物镜孔径角，否则就不能充分利用物镜所能达到的最高分辨率。为此目的，在聚光镜中设有类似照相物镜中的，可以调节开孔大小的可变孔径光阑，用来调节照明光束孔径，以与物镜孔径角匹配。
改变照明方式，可以获得亮背景上的暗物点(称亮视场照明)或暗背景上的亮物点(称暗视场照明)等不同的观察方式，以便在不同情况下更好地发现和观察微细结构。