Željeznička stanica Rolandzek sagrađena je 1856. godine i ubrzo je postala popularna destinacija za odmor plemstva i kulturne elite u cijeloj Europi. Zgrada, koja podsjeća na talijansku renesansnu vilu, bila je domaćin koncerata i zabava, a prisustvovali su kraljica Viktorija, Otto von Bismarck, Heinrich Heine, Franz Liszt i George Bernard Shaw. Prvi svjetski rat stavio je kraj zabavi u Rolandzeku, a tek 1964. godine na stanici su se ponovo održavale izložbe i koncerti; brzo je postao središte kulturnog života pod vodstvom kustosa Johannesa Wasmutha. Wasmut je tamo osnovao neku vrstu umjetničke komune koja je cvjetala do njegove smrti 1997. godine. Opet je zavladalo zatišje, koje je završilo 2004. godine, a fondacija Hans Arp i Sophie Taeber-Arp, čija su djela iz zbirke bila izložena tijekom Vasmutova života u podrumskoj dvorani stanice, pretvorila je prethodno obnovljenu zgradu u Muzej Hans Arpa.
Ali i sam Vasmut je shvatio da 400 djela iz kolekcije fonda neće imati dovoljno prostora u zgradi 19. vijeka ni pod optimalnim uvjetima; stoga se još 1980-ih obratio američkom arhitekti Richardu Mayeru sa zahtjevom da izradi projekat nove zgrade muzeja - u blizini. Provedbu ovog plana otežale su razne poteškoće, pa je gradnja započela tek 2004. godine, a naručitelj više nije bio Vasmut, već Hans Arp i Sophie Taeber-Arp Foundation.
Stanica Rolandzek nalazi se na samoj obali Rajne, a iza nje se zidovi doline rijeke strmo uzdižu. Stoga se nova zgrada mogla podići samo na vrhu obližnjeg brda. Ali poseban problem Mayeru je bila povezanost starih i novih zgrada, jer je padina između njih pogodna za penjače, ali ne i za obične ljubitelje umjetnosti. Mayer je predložio kopanje tunela od 40 metara iza kompleksa stanice, koji je vodio u dubine brda. Odatle se posjetitelji liftom podižu na 40 metara do konusnog staklenog tornja novog muzeja, koji nudi panoramski pogled na dolinu Rajne. Princip kontrasta priprema gledaoca za percepciju raznolikog umjetničkog nasljeđa para Arp u svijetlim dvoranama nove zgrade. Njegova povezanost sa stanicom poboljšana je podjelom funkcija: u donjoj zgradi nalazi se predsoblje, blagajna, muzejska trgovina i biblioteka, dok su sve galerije smještene na katu. Betonski tunel ispod brda naglašeno je tehnički i negostoljubiv; jedini detalj koji ga oživljava je 18-metarska svjetleća spirala skulpture Kaa autorice Barbare Trautmann.
Posjetioce u gornjoj zgradi očekuje potpuno drugačije okruženje: središte mu je prostrano predsoblje koje povezuje sve tri etaže. Na donjem nivou, pored izložbenih sala, nalaze se i administrativni prostori i obrazovni centar.
