Pierwszymi herbarzami były role herbowe sporządzane od XIII w. z okazji turniejów rycerskich jako pomoc w identyfikacji uczestników i poprawności używanych przez nich herbów. Kolejną formą herbarza, zwłaszcza w zachodniej Europie były urzędowe spisy sporządzane z okazji lustracji dóbr dla celów skarbowych, ozdabiane od XV w. również wizerunkami herbów. W Polsce rolę tę pełnią rekognicjarze poborowe z wyciśniętymi pieczęciami szlachty danej ziemi. Później pojawiły się herbarze sporządzane w trakcie specjalnych lustracji przeprowadzanych przez heroldów, dla sprawdzenia legalności i poprawności używania herbów. Jednym z najstarszych europejskich herbarzy jest Herbarz Geldrii powstały ok. 1369 r. i uzupełniany do XV w., w którym znajdują się również polskie herby. Pierwszym znanym polskim herbarzem są pochodzące z XV wieku Insignia seu clenodia Regni Poloniae Jana Długosza. Określenie Herbarz używa się też do spisów genealogicznych osób, usystematyzowanych nazwiskami, wraz z informacjami o przynależności herbowej.