Initialement appelé « Maison de l'art Allemand », par opposition à l'art désigné comme « dégénéré » par les nazis, le musée a ouvert ses portes en 1937. Il est conçu par Paul Ludwig Troost (1878-1934), architecte préféré d’Hitler, dans le but de promouvoir la vision Nationale Socialiste de l'art. Après la guerre, le bâtiment est toujours utilisé, mais ses abords sont remodelés de manière à lui faire perdre de sa superbe : les escaliers sont supprimés au profit d'une rampe, l'entrée est déportée sur le côté et une importante rangée d'arbres est plantée pour masquer la façade.

En 2012, le gouvernement Bavarois a approuvé la rénovation de la Haus der Kunst. Un concours est organisé, à l'issue duquel est retenue la candidature de David Chipperfield. Mais son projet dérange et pour cause, puisqu'il entend réhabiliter le parvis, considérant qu'un tel bâtiment ne devrait pas «se cacher derrière les buissons ».

Ses détracteurs restent néanmoins persuadés que d'autres alternatives, « tournées vers le futur » et non le passé, sont envisageables.