Das Gebäude von James Simon befindet sich an der Stelle des 1939 abgerissenen Lagers von Karl-Friedrich Schinkel, neben dem Pergamonmuseum, am Ufer des Kupfergrabenkanals und direkt vor dem Neuen Museum. Sein Architekt David Chipperfield schuf die zweite Version des Erscheinungsbilds des Gebäudes, und die erste wurde bereits 2001 entworfen. Dann schien das Glasvolumen der Leitung der Staatlichen Museen in Berlin und Vertretern der UNESCO (die Museumsinsel steht unter dem Schutz dieser Organisation)) als zu radikales Projekt. Gleichzeitig gab es Probleme mit der Finanzierung und die Umsetzung wurde verschoben.
Die Notwendigkeit einer einzigen Lobby in Verbindung mit Büroflächen im Berliner Hauptmuseumsensemble wurde jedoch immer dringlicher. 2006 stellte die Bundesregierung 73 Millionen Euro für das Projekt bereit, und Chipperfield wurde gebeten, die Originalversion des Gebäude.
Dem Architekten zufolge unterzog er seine erste Version des James-Simon-Gebäudes einer "Dekonstruktion": Aus einem einzigen Band wurden eine Reihe von Kolonnaden, und Glas wurde durch Naturstein ersetzt. Schlanke Säulen, die ein kollektives Bild der "Klassiker" ohne buchstäbliche Wiederholung architektonischer Formen schaffen, setzen die Kolonnade von "Pergamon" fort und betonen die Fassade des dahinter liegenden Neuen Museums. So entsteht ein kleiner Säulenhof, in dem sich das Haupteingangsgebäude selbst befindet. Die Besucher betreten es am Ende und steigen die breite Haupttreppe hinauf, die auch dem Geist der Museumsinsel entspricht.
Chipperfields überarbeitetes Projekt begeisterte den Direktor der Staatlichen Museen in Berlin, Klaus-Peter Schuster. Er verglich das zukünftige Gebäude mit einem majestätischen antiken Tempel und erwähnte gleichzeitig den "Minimalismus von Mies van der Rohe". Das James Simon Corps wurde auch von den Vertretern der Stiftung Preußisches Kulturerbe sehr geschätzt. Das neue Gebäude wird die Museumsinsel mit der notwendigen Infrastruktur ergänzen: Trotz der Tatsache, dass es sich um einen der größten Museumskomplexe der Welt handelt, gibt es dort fast keine Nebengebäude. Wenn der Wiederaufbau im Jahr 2012 abgeschlossen ist, kann die Insel sogar mit dem Louvre um die weltweite Führungsrolle in diesem Bereich konkurrieren.
