Երևան քաղաքի պատմության թանգարանը հիմնադրվել է 1931 թվականին, ներկայիս Անդրեյ Սախարովի անվան հրապարակում գտնվող Հրշեջ կամավոր ընկերության շենքում զբաղեցնելով՝ երկու սենյակ։ Այդ ժամանակ ցուցանմուշների թիվը հասնում էր շուրջ 400-ի։ Տարիների ընթացքոմ ավելացող թանգարանային առարկաներն այլևս պետք է տեղափոխվեին նոր շենք, ուստի պատահական չէ, որ 1934 թ. Երևան քաղաքի խորհրդի նախագահությունը որոշում է կայացնում Կոմունալ թանգարանը տեղափոխելու վերաբերյալ։ Նոր շենքի որոնումների արդյունքում 1936 թ. թանգարանը տեղափոխվում է 17-րդ դարի հուշարձան շենք՝ իրանական Կապույտ Մզկիթ, որը ճանապարհորդների հիշատակություններում հայտնի էր Երկնքի մզկիթ անվամբ։ Նույն թվականին էլ, երբ արդեն ֆոնդերում առկա էր 1480 ցուցանմուշ, Կոմունալ թանգարանը վերանվանվում է Երևան քաղաքի պատմության թանգարանի։ Մինչև 1994 թ. թանգարանն իր գործունեությունը շուրջ 56 տարի ծավալում է հենց այստեղ՝ ներկայացնելով Երևանի պատմությունը հնագույն ժամանակներից մինչև մեր օրերը