Le premier beffroi a été édifié sur la Place du marché au blé, à côté de l'église Saint-Georges. Ce n'est pas un édifice important et en 1209, après avoir obtenu l'autorisation du comte Jean, une nouvelle tour communale est élevée près de l'église Saint-André. Au cours de son histoire le beffroi a été entouré de plusieurs bâtiments destinés au fonctionnement des institutions communales (chapelle, bretèche, halle aux draps, grange...) : aujourd'hui seule la trésorerie, bâtie en style gothique au milieu du XVème et conservant les archives et les titres de la ville, subsiste. C'est désormais l'entrée du musée Boucher-de-Perthes.
Touché par les bombardements allemands du 20 mai 1940, le beffroi connaît des travaux de restauration dirigés par l'architecte François Vasselle entre 1984 et 1986, et plus particulièrement de la charpente, reprenant la forme du bâtiment d'avant le XIXème siècle.