Saksalainen kirjasto perustettiin 1800-luvulla yksityishenkilöiden aloitteesta. 12 saksankielistä perhettä oli 1877 muodostanut luku-piirin, jonka jäsenet hankkivat vuosittain vähintään yhden kirjan ja lainasivat sitä piirin muille jäsenille. Perheiden nimet olivat Haller, Jahn, Kirstein, Kolster, Luther, Mickwitz, Minckwitz, Rohde, Rudolph, Stockmann, Tobisen ja Wetzer. Muutaman vuoden kuluttua lukupiiri lahjoitti näin kertyneet kirjat Saksalaisen seura-kunnan käyttöön ja 4. toukokuuta 1881 perustettiin Saksalainen kirjasto. Tuolloin pastori Kirstein ilmoitti seurakuntalaisille lahjoituksesta. Kysymyksessä oli n. 60 niteen kokoelma, joka vuoteen 1914 mennessä karttui Pietarista saatujen lisälahjoitusten ansiosta 200 niteeseen.

1900-luvun alussa Helsinkiin perustettiin kaksi muutakin julkista saksankielistä kirjakokoelmaa: Saksalaisen yhdistyksen kirjasto, joka 1914 käsitti n. 500 nidettä, ja Saksalaisen koulun kirjasto. 1927, viisikymmentä vuotta seurakunnan lukupiirin perustamisen jälkeen, nämä kolme kirjakokoelmaa yhdistettiin yhdeksi kirjastoksi. Järjestelytyössä toimi neuvonantajana Erwin Ackerknecht, Saksan yleisten kirjastojen tunnettu organisaattori. Tuolloin tämä uudelleen avattu Deutsche Bücherei omisti n. 2000 nidettä ja se oli kaikille avoin kirjasto. Tavoitteekseen se asetti 1) kerätä kaikki Suomea koskeva kirjallisuus erityiseen Fennica-osastoon ja 2) lähettää valikoituja kokoelmia Helsingin ulkopuolella toimivien saksankielisten yhteisöjen käyttöön. Näitä päämääriä noudatetaan tänäkin päivänä: Saksalaisen kirjaston Fennica-osastoon kuuluu n. 4000 nidettä ja kirjoja lainataan edelleen muihin suomalaisiin kirjastoihin kaukopalvelun kautta.

Saksalaisen kirjaston osoite oli ensin Unioninkatu 19 ja myöhemmin Eteläesplanadi 12. Siellä oli mm. lukusali, jonne tilattiin saksankielisiä sanomalehtiä. Vuoteen 1944 ja vuosina 1955-59 kirjastoa johti Dagmar Hernberg, jonka jälkeen kirjastonjohtajana oli Alfred Schmidt vuosikymmenten ajan.

Kun Suomi 1944 teki rauhansopimuksen Neuvostoliiton kanssa, Saksalainen kirjasto suljettiin. 1955 perustettiin yhdistys edistämään saksalaisen kirjallisuuden tunnetuksi tekemistä Suomessa. Sen nimi oli ”Helsingin saksalainen kirjastoyhdistys” ja perustajajäsenet olivat Max Aue, Wilhelm Dahm, Dagmar Hernberg, Pekka Katara, Emil Öhmann, Alfred Schmidt, Geert Sentzke ja Kurt Stude. Saksalaisten rinnalle johtokuntaan valittiin nyt myös suomalaisia ja puheenjohtajana on yleensä ollut yliopiston professori. Tämä yhdistys on tänäkin päivänä Saksalaisen kirjaston ylläpitäjä.

Kirjaston toiminta alkoi uudelleen ensin Saksalaisen koulun tiloissa, mutta vielä samana vuonna 1955 voitiin Saksan liittotasavallan avulla ostaa nykyinen huoneisto Kasarmitorin varrelta. Silloinen 7000 niteen kokoelma on tällä välin karttunut 35.000 niteen kirjas-toksi. Pääalueena on saksalainen filologia laajemmassa merkityk-sessä eli kieli- ja kirjallisuustieteen sekä kaunokirjallisuuden lisäksi on huomioitu myös saksankielisten maiden historia, kulttuuri ja maan-tuntemus. Huoneisto käsittää n. 250 m2; lisäksi kirjasto on vuokrannut talosta 60 m2 varastotila.

Nykyään suurin osa kokoelmista on selailtavissa internetissä ja kirjaston kotisivuilta saa tietoja yleisötilaisuuksista, uutuus-hankinnoista ja kirjaston julkaisuista.

Saksalainen kirjasto on vuodesta 1967 lähtien julkaissut vuosikirjaa ”Jahrbuch für finnisch-deutsche Literaturbeziehungen”, jonka päätehtävä on toimia välittäjänä suomalaisen ja saksankielisen kirjallisuuden kesken. Suomalaisen nykykirjallisuuden ensikäännös-ten ja kirjallisuustieteellisten artikkelien lisäksi julkaistaan aineistoa muiltakin humanististen tieteiden aloilta.