Ученые считали важным создание музея в городе, потому что на территории республики в прошлые века проходили массовые археологические раскопки. Найденные предметы древних культур до появления Национального музея передавались в Тифлис. С годами появились различные коллекции монет, оружия, памятников. После того, как открылся музей, все они были перемещены туда. Но спустя десятилетия здание разрушилось. Тогда было принято решение открыть музей в старинном особняке крупного торговца мучной продукции Ильи Ходякова. Он выделил средства на строительство двухэтажного дома в классическом стиле. Решетки балконов имеют форму растений, фасад украшен металлическими вензелями. Это придает некую изысканность зданию, хотя в целом оно выглядит скромно. Внутренняя отделка тоже не отличается чем-то особенным.
На протяжении многих лет музей несколько раз менял название. В 1970-ые годы он стал Краеведческим и в его состав вошли еще несколько республиканский музеев. В 1992 году здание закрылось на ремонт и открылось только в 2008 году уже с новым статусом Национального музея.
В настоящее время в коллекциях учреждения насчитывается несколько тысяч предметов. При этом фонд постоянно пополняется. Музей поделен на отделы энтомологии, палеонтологии, зоологии, нумизматики, оружия.
Добраться до него удобнее на трамвае или маршрутке, курсирующей до площади Штыба, здания городской администрации.