Здание, в котором находится Национальный музей истории Азербайджана, являлось жилым домом знаменитого предпринимателя, мецената Гаджи Зейналабдина Тагиева, проживавшего в нём с семьей. Дворец Г.З.А.Тагиева, построенный по проекту главного архитектора Баку Иосифа Викентьевича Гославского (1865–1904), является одним из красивейших зданий города Баку.

И.Гославский был командирован в Баку в 1891 году в качестве специалиста по надзору за строительством в Баку церкви Александра Невского. И.Гославский являлся главным архитектором города в 1893–1904 годах. Он является архитектором двенадцати красивых архитектурных строений в Баку. Дворец Г.З.А.Тагиева был построен в 1895-1901 гг. Увенчанный большими куполами, трехэтажный дворец с одной стороны выходил на Барятинскую (ныне А.Ализаде), с другой - на Полицейскую (ныне Ю.Мамедалиева), Меркурьевскую (ныне З.Алиева) а фасадная часть выходила на Горчаковскую (ныне Г.З.А.Тагиева).

Двухрядная конструкция комнат - основа интерьерного решения дворца. Комната для приёма гостей и жилая комната разделены на группы вокруг двух закрытых дворов. Фасад здания с двумя сквозными мраморными лестницами выходит на запад. В анфиладе второго этажа располагался Европейский зал, украшенный цветочными пилястрами. «Восточный зал» отличался величием, роскошью и изяществом орнаментов. Зимний сад с небольшим фонтаном в центре был соединен с Восточным залом. Кабинет Г.З.А.Тагиева, столовая, гостиная и другие помещения отделаны дубовым деревом. Потолок оригинального будуара супруги Хаджи - Соны ханум выполнен из фигурных зеркальных бляшек.

На строительстве дворца Тагиева были заняты 270 инженеров, архитекторов, плотников, маляров и других мастеров. Все оборудование внутри дворца было привезено из России, Франции, Америки и Германии. В доме были установлены системы отопления и охлаждения. Здание было трехэтажным со всех четырех сторон, а высота каждой из комнат достигала 1320 метров. Пол выполнен из натуральных кленовых досок, привезенных из России. Только на строительство здания (без учета стоимости привезенной из-за границы мебели и оборудования) было потрачено 1,2 миллиона рублей.

На нижнем этаже располагались контора Г.З.А.Тагиева и ряд других комнат, на втором этаже - жилые помещения, кабинет и два зала - Европейский и Восточный, а также комната с сейфом, подсобные помещения, кухня, баня и т. д. Третий этаж, имевший отдельный выход на нынешнюю улицу Ю.Мамедалиева, состоял из 16 комнат. С 1914 года во дворце Г.З.А.Тагиев располагался и возглавляемый им Бакинский Купеческий Банк.

Пришедшие к власти в Азербайджане в апреле 1920 года большевики конфисковали дворец Тагиева, и в одной его части был открыт Государственный исторический музей. В 1941-1954 годах Музей истории был переведен во Дворец Ширваншахов, а в здании располагался Совет Народных Комиссаров Азербайджанской ССР. В 1954 году второй этаж здания был возвращен Музею истории. А на первом этаже находился архив технических и медицинских документов.

Только в 2000 году дом Тагиева был полностью передан во введение Музея истории Азербайджана. Дворец Тагиева несколько раз подвергался реконструкции. Во время проводившегося в середине XX века ремонта рисунки в зеркальной комнате были уничтожены как «буржуазный пережиток» и покрыты штукатуркой. Во время проведения ремонта в 2000 году, вышеупомянутые настенные рисунки были обнаружены под слоем штукатурки. Несмотря на четыре слоя краски, рисунки не утратили свежести. 

С 2005 года во дворце Тагиева начались капитальный ремонт и работы по реконструкции. По инициативе Президента Азербайджанской Республики Ильхама Алиева при Национальном музее истории Азербайджана был создан мемориальный музей Г.З.А.Тагиева.