現代藝術博物館創建於1929年，贊助者主要是艾比·奧爾德里奇·洛克菲勒﹙小洛克菲勒的妻子﹚、瑪莉·昆·蘇利文﹙Mary Quinn Sullivan﹚與莉莉·布裡斯﹙Lillie P. Bliss﹚，營建和收藏品管理則主要由洛克菲勒家族財務支持，1940和50年代的背後贊助者，就是艾比·奧爾德里奇·洛克菲勒的兒子納爾遜·洛克菲勒，他亦曾稱此博物館小名為「媽媽的博物館」。
在1929年到1939年間，現代藝術博物館就遷移了三次，直到1939年5月10日才正式在目前館址安居。現代藝術博物館的主體建物，在當時是由建築師菲利浦·葛文和愛德華·斯頓設計的，外觀具有典型國際風格的水準與垂直線條。
2000年之後，現代藝術博物館由於館藏擴充甚多，原館址亦需整修，遂開始了新建物的計劃，該館在2002年5月21日關閉，將部份館藏遷往皇后區長島市的一處由舊釘書針工廠廠房改造的展館繼續展覽，稱做MoMA QNS。2004年11月20日，由日本建築師谷口吉生設計的新館開幕，門票從美金12元調漲到20元，引起了不少爭議。使它成為紐約市中最昂貴的博物館之一。
