世界上最原始的秤是古埃及人的发明。还在7000多年以前，古埃及人就使用一种悬挂式的双盘秤来称麦子。这种秤有两个秤盘，分别悬挂在秤梁的两端。
在中国，秤的出现也很早。春秋中晚期，楚国已经制造了小型的衡器—木衡．铜环权，用来称黄金货币。完整的一套环权共十枚，大体以倍数递增，分别为一铢、二铢、三铢、六铢、十二铢、一两、二两、四两、八两、一斤。中国历史博物馆藏有一支战国时的铜衡杆，这种衡器即不同于天平也不同于后来的称杆，但与不等臂天平类似。经过逐步演化的过程，衡杆的重臂缩短，力臂加长，也就成为了现代仍在使用的杆秤。
杆秤在耶稣诞生前由游牧部传入了西方，被命名为罗马秤。在许多拉丁语作家的著作中都有关于这种秤的记载。罗马秤两臂不等，称物端的秤臂较短，且长度固定不变。在称量重物时，移动秤杆另一端的秤锤(这样就改变了该端秤臂的长度)，直到秤杆达到水平状态时为止。使用这种秤可以称量比秤锤重得多的物体。
1670年，法国著名的数学家、物理学家和机械设计师吉尔．佩尔索纳．德．洛百瓦尔(GillesPersonnedeRoberval，1602—1675)于1670年将他发明的案秤报送巴黎科学院。这是一种等臂双盘案秤(又名磅秤)。秤盘装在秤梁两端，下面装有刚性导杆，可在称座上相应的导孔内上下上下移动。这样，当秤梁绕轴摆动时，在导杆作用下，秤盘可做上下移动，但其水平状态保持不变。这种秤是的。直到现在，洛百瓦尔案秤仍然是世界上使用最为普遍的商业秤。
在中国范蠡是秤的发明者
相传范蠡在经商中发现，人们在市场买卖东西，都是用眼估堆，很难做到公平交易，便产生了创造一种测定货物重量的工具的想法。
一天，范蠡在经商回家的路上，偶然看见一个农夫从井中汲水，方法极巧妙：在井边竖一高高的木桩，再将一横木绑在木桩顶端；横木的一头吊木桶，另一头系上石块，此上彼下，轻便省力。范蠡顿受启发，急忙回家模仿起来：他用一根细而直的木棍，钻上一个小孔，并在小孔上系上麻绳，用手来掂；细木的一头拴上吊盘，用以装盛货物，一头系一鹅卵石作为砣；鹅卵石搬动得离绳越远，能吊起的货物就越多。于是他想：一头挂多少货物，另一头鹅卵石要移动多远才能保持平衡，必须在细木上刻出标记才行。但用什么东西做标记好呢？范蠡苦苦思索了几个月，仍不得要领。
一天夜里，范蠡外出小解，一抬头看见了天上的星宿，便突发奇想，决定用南斗六星和北斗七星做标记，一颗星代表一两重，十三颗星代表一斤。从此，市场上便有了统一计量的工具——秤。
但是，时间一长，范蠡又发现，一些心术不正的商人，卖东西时缺斤少两，克扣百姓。他想，怎样把秤改进一下，杜绝奸商们的恶行呢？终于，他想出了改白木刻黑星为红木嵌金属星形，并在南斗六星和北斗七星之外，再加上福、禄、寿三星，以十六两为一斤。目的是为了告诫同行：作为商人，必须光明正大，不能去赚黑心钱。并说：“经商者若欺人一两，则会失去福气和幸福；欺人二两，则后人永远得不了‘俸禄’(做不了官)；欺人三两，则会折损‘阳寿’(短命)！”
就这样，秤这种计量工具便一代一代地流传了下来，并一直沿袭了两千多年，直至今天。