一、人为误差
1、操作人员技术熟练程度不够、实践经验较差、操作不当造成，应由熟悉操作硬度计的人员带领下使用;
2、加荷过快，持荷时间短，低硬度的零件硬度偏高，而加荷过慢，持荷时间长，硬度偏低，操作时加荷应平整，保持一定加荷时间。
二、被测零件影响的因素
1、热处理零件表面有盐渍、沙子等物，当加负荷时，零件会产生滑移，若有油腻存在，金刚头压入时起润滑作用，减小磨擦，增加压深。这两项原因使所测硬度值偏低。零件测试的部位氧化皮蔬松层薄的硬度值降低，氧化皮致密层厚的硬度值增高。对欲测硬度的零件必须去除氧化皮，揩擦干净，不得有脏物。
2、不同的表面光洁度在洛氏硬度测试时，表现出不同的影响。表面光洁度愈低，高硬度测试时其硬度愈高，反之硬度越低，有刀痕的粗糙表面，淬火时首先最快冷却，或很坚硬的表层，硬度值就高。反之，调质件高温回火时，有刀痕的表层组织先转变，抗回火的能力小，硬度值就低。在测试表面光洁度Δ7以下的零件时，必须使用废砂轮精磨，再用锉刀锉磨光滑，或用细的手砂轮磨光，然后揩擦干净。
3、斜面(或锥度)、球面及圆柱体零件对硬度测试的误差较平面大。当压头压入这种零件表面时，压入处四周的抗力比平面小，甚至有偏离、滑移的现象，压深增大，硬度降低。曲率半径愈小，斜度愈大，硬度数值的降低愈显著。金刚石压头也容易损坏。对这类零件要设计专用工作台，使工作台和压头同心。
三、压头的影响
1、金刚石压头不符合技术要求或是使用一段时间后有磨损，操作者如不能判断金刚石的好坏，可由计量测试机构进行检定。
2、钢球压头强度和硬度不够，容易产生变形。钢球扳压扁产生永久变形后呈椭圆，短轴垂直于零件表面时，压痕浅，示值高;长轴垂直于零件表面时，压痕加深，示值降低，钢球允差小0.002mm。
四、载荷方面
1、初负荷：弹簧和主轴、杠杆和百分表之间有摩擦，造成100N的增大或减小。调整螺丝松旷、调整移动，顶杆位置不当。起始线有差异，引起初负荷不对。如果初负荷不对，应调整弹簧、主轴、杠杆、百分表等处的配合。调整块的位置移动合适以后，紧固调整螺丝，同时要紧固顶杆位置，初负荷的允差应小于±2%。
2、主负荷：杠杆比例不对，吊杆和砝码的配重有误差;主轴、杠杆和砝码有偏斜，均会使主负荷产生误差。杠杆比不对，应进行调整。刀口有磨损应修复或更换，主轴变形要进行校直。主轴、杠杆和砝码偏斜应拨正。各种标尺主负荷的允差小于±0.5%。
五、硬度计安置不正。硬度计不处于水平位置，测试硬度时，其值偏低。用水平仪测量水平度，然后垫平硬度计。
六、零件某一测试部位的表面与工作台接触不良，或支承点不稳固，将会产生滑移、滚动、翘起等现象。这不仅使所得结果不准，还会损坏仪器。应根据零件的几何形状设计合适的工作台。
七、周围环境的影响。工厂生产用硬度计常会因周围环境受震动的影响，致使仪器结构产生松动，示值不稳定。硬度计应安装在无震动或离震源较远的地方。
八、硬度值不准确：有二种情况导致测试硬度不准确，如果所用的压头是金钢石压头，首先用指甲表面轻轻与压头顶部磨擦一二下，观察指甲有没划出深痕迹，有深痕迹表示压头已损坏，反之为好的压头。第二种情况就是仪器微调处未调好，打开硬度计顶盖，用一字螺丝刀把顶针部二颗螺丝调松，然后把微调铁块向前调节使硬度值调高，反之为调低。
九、加荷把手不能动：传动结构生锈，打开硬度计背铁板，观察生锈部位加上防锈油就可以解决。
十、加荷时读数指针不动：读数盘损坏，更换读数盘即可。
十一、加荷时指针动作太快：油泵缺油，打开硬度计背铁板，往油泵注满油，再细调一下油泵加压螺丝即可。