Ideja o novoj zgradi rodila se prije sedamnaest godina, kada je Veliko vojvodstvo postalo jedna od šest zemalja osnivača Europske unije, a vlasti su odlučile podržati imidž Luksemburga ne samo kao ekonomski napredne države, već i kao važno kulturno središte kontinenta. Međutim, sama ideja stvaranja kolekcije suvremene umjetnosti i njeno arhitektonsko utjelovljenje u obliku projekta J. M. Pei je naišla na otpor u raznim krugovima konzervativno nastrojenog društva. Kao rezultat, njegov koncept je revidiran nekoliko puta, dizajn, pa čak i izgradnja obustavljena. Tek 1997. godine određeno je mjesto za muzej: ruševine tvrđave Tungen (1732), koje su bile uključene u novu zgradu. 1999. započela je gradnja, ali je potom prekinuta na četiri godine jer je Pei za svoju izgradnju želio koristiti samo zlatni vapnenac iz Francuske, što je stvorilo mnoge nove probleme.
Takođe, poteškoće su se pojavile sa kolekcijom: budući da u Luksemburgu nikada nije postojala kolekcija umjetnosti 20. vijeka, ona je morala biti stvorena. Zbog ograničenih sredstava nije bilo govora o kupovini djela Dalija i Picassa: velika većina eksponata od 230 predmeta koji pripadaju muzeju pripada razdoblju nakon 1980. Ali, prema direktorici muzeja Marie-Claude Beaux, on je dizajniran da dodatno proširi kolekciju, da sakuplja umjetnost budućnosti, umjetnost XXI vijeka.
Kompleks se nalazi usred parka, između dvije poslovne četvrti grada. Njegova značajka je zeleni stakleni toranj iznad glavnog atrija, koji podsjeća na tvrđavu nad kojom je sagrađen. Gotovo svi podovi glavne etaže izrađeni su od stakla, tako da većina dvorana ima prirodno svjetlo. U prizemlju se nalaze dvije male galerije i predavaonica. Izvana su zidovi muzeja obloženi krečnjakom boje meda, glavni ulaz muzeja složena je prostorna kompozicija u obliku niše. Ukupna površina zgrade je 10.000 kvadratnih metara. m, od čega 4.800 kvadratnih m - izložbeni prostori. Muzej nosi ime Velikog vojvode Jeana, koji je sada upravljanje državom prenio na svog sina Henrija.
