Évitant toute constitution d'une collection d'art thématique sur le thème de la Shoah, le musée s'est attaché à remonter l'histoire emblématique de quelques juifs d'Europe orientale, Russie, Pologne, Roumanie, qui vinrent s'installer à Paris au début du siècle, et dont les chemins aboutirent à l'hôtel de Saint-Aignan. À partir de sources d'archives, le musée propose une séquence documentaire sur l'histoire du judaïsme européen, la fin des communautés exterminées, l'immigration à Paris, la vie juive dans le quartier du Marais, les métiers, les structures associatives.

Par ailleurs, Christian Boltanski a réalisé une oeuvre dans une modeste courette qui traverse le bâtiment sur toute sa hauteur. Cette installation évoque à partir des noms des juifs qui furent déportés et qui ont vécu à cette adresse alors que l'hôtel particulier n'était qu'un immeuble de rapport, l'autre histoire du lieu, l'histoire sans faste que les récentes restaurations ont gommée.