1、根据试样材料：
不同类型的材料或不同的热处理状态下的同种材料都有最适宜的试验标尺。应根据材料的种类或状态进行选用。还有许多类型的材料已经形成了比较固定的硬度测试传统习惯，尽可能地遵从这些习惯方法可能会使所得到的硬度值更具有实际意义。有时，最适合的硬度测试方法可以从这一材料的技术标准中轻易地了解到。
2、根据试样条件：
对于压入法硬度试验来说，同一试样硬度，不同的试验标尺有着不同的试样最小厚度要求。对于冲击回弹式的硬度试验，对试样的厚度和重量也一般有一个最低要求。可以从试样自身的情况入手，选择适当的硬度试验标尺。另外，如试样的尺寸、形状、试样表面的状况等都可能成为硬度试验标尺选用的重要条件。
3、根据技术要求：
尽量与试件的图纸或技术要求选择同一个硬度标尺进行试验，这样才能有最好的可比性。当然图纸或技术条件的规定也不一定就是万能的，因为它们一般是根据设计要求提出的，很多只是沿用了原材料的硬度试验方法。制造出成品后的硬度试验可能面临着不同的问题，例如试件对试验力的承受能力及受力变形、测量遗留的压痕是否影响制品性能等。有时必须进行一些变通。尽量少用或不用硬度换算，因为每个准确可靠的硬度换算关系都一定附带了非常苛刻的限定条件，实际应用中很难完全达到。如果忽视了这些条件，所得到的换算值可能没有任何价值。
4、根据硬度范围：
各种硬度试验方法或标尺都有各自的测量有效范围，超出这一范围可能使测量精度明显下降或致使硬度计的机件造成损坏。