Die Ursprünge gehen zurück ins Jahr 1845, als von der Presbyterianischen (Reformierten) Kirche in Nordirland ein Missionar zum Zwecke der Unterstützung und Bekehrung notleidender Juden, die auf ihre Ausreise in die Neue Welt warteten, nach Hamburg entsandt wurde und in der Innenstadt eine erste Hausgemeinde um sich scharte. Ein Missionshaus, das Arbeits- und Unterkunftsmöglichkeiten bot, und eine Sozial- bzw. Diakoniestation – das "Schwesternheim Salem" – kamen im Laufe der Jahrzehnte hinzu.

Das Gespräch mit Juden, insbesondere die Betreuung jüdischer Kranker blieb weiterhin das zentrale Anliegen "Jerusalems", als im Jahre 1912 die Jerusalem-Kirche und, mit ihr in baulicher Einheit verbunden, das gleichnamige Krankenhaus samt Diakonissenanstalt am jetzigen Standort (Schäferkampsallee / Ecke Moorkamp) errichtet wurden.

Gründervater und erster Vorsteher war Pastor Dr. Arnold Frank, dem besonders der "Dienst an Israel" in der Einheit von Wortverkündigung und diakonischem Handeln am Herzen lag. Kirche und Krankenhaus gingen eine enge Symbiose ein. Im Krankenhaus sollte die kollegiale Zusammenarbeit von Ärzten über alle Konfessions- und Religionsgrenzen hinaus verwirklicht und die bedürftigen Glieder der Gesellschaft nicht vergessen werden.

"Außer der Krankenpflege in Privathäusern und der mit der Diakonissenanstalt verbundenen Klinik soll auch Krankenpflege an Armen geübt werden" (Pastor Dr. Frank).

Zum "Diakoniewerk Jerusalem e.V. Hamburg" zählt neben dem Krankenhaus und dem Diakonissenhaus seit 1949 auch eine in mehreren Bundesländern (Hamburg, Niedersachsen, Sachsen-Anhalt) etablierte Abteilung "Kinder- und Jugendhilfe", hervorgegangen aus einer Erholungs- und Heimstätte für notleidende Kinder ehemals rassisch Verfolgter, darunter Juden und Waisen. Sie hat ihren Sitz in Bad Bevensen.

Bei der Gründung des Krankenhauses Jerusalem waren ausschließlich Diakonissen in der Leitung und Pflege tätig. Sie lebten damals wie noch heute in einer Glaubens- und Lebensgemeinschaft in dem angeschlossenen Mutterhaus, das dem "Kaiserswerther Verband deutscher Diakonissenmutterhäuser e.V." angehört. Das Diakoniewerk ist darüber hinaus sowohl Mitglied des Diakonischen Werkes Stuttgart als auch des Diakonischen Werkes Hamburg.

Inzwischen genießt die klein gewordene Schwesternschaft ihren Feierabend, aber der Auftrag, als christliches Krankenhaus Gottes Liebe und Sorge gegenüber Kranken sowie deren Angehörigen erfahrbar zu machen, ist geblieben.

Auch nach der Übernahme durch einen privaten Träger im Jahre 2007 gilt der Grundgedanke einer Zusammenarbeit von Menschen verschiedener Konfessionen im "Jerusalem" unverändert.