Bereits 1867 hatte das "Kanzleramt des Norddeutschen Bundes" Räume in der Wilhelmstraße 74 bezogen. Dieses Amt, Vorläufer des Reichskanzleramts, war die Behörde, die dem Bundeskanzler (ab 1871: Reichskanzler) zur Durchführung der Aufgaben zur Verfügung stand, die er als Leiter der Bundes- bzw. der Reichsverwaltung hatte.

Der Umfang der Geschäfte war zunächst gering, so daß man mit vier höheren Beamten auskam. Er nahm jedoch in so großem Tempo zu, daß das Kanzleramt bereits 1871 das Staatsministerium verdrängte; zwischen 1872 und 1874 wurde das Gebäude um ein Stockwerk erhöht und im Garten wurden mehrere Neubauten errichtet.

Das Kanzleramt nahm neben der Reichsverwaltung auch die Geschäftsführung des Bundesrats wahr, in dem der Kanzler den Vorsitz führte. Der Bundesrat, für den bei dem Umbau 1872 ein eigener Sitzungssaal eingerichtet wurde, war nach der Verfassung das Gremium, in dem die "Verbündeten Regierungen" über die Bundes- bzw. Reichsangelegenheiten berieten und beschlossen.

Sie wurden durch Bevollmächtigte vertreten, die mit den Gesandten der Bundesstaaten in Preußen identisch waren; von preußischer Seite wurden hohe Ministerialbeamte mit dieser Aufgabe betraut. Insgesamt konnten im Bundesrat 58 Stimmen abgegeben werden, von denen Preußen über 17, Bayern über 6 und die anderen Bundesstaaten über entsprechend weniger verfügten.

Alle Gesetze wurden zunächst vom Bundesrat beschlossen und dann dem Reichstag vorgelegt, der im Gegensatz zum Bundesrat keine Gesetzesinitiative besaß. Theoretisch sollten die Gesetzesvorschläge sogar aus dem Bundesrat hervorgehen; faktisch jedoch wurde die Gesetzgebung im Kanzleramt vorbereitet. Dem Bundesrat blieben nur Beratung und Abstimmung. Er gab damit einen Teil der ihm laut Verfassung zustehenden Kompetenzen an den Reichskanzler und dessen Behörden ab.

Mit der Zunahme der Geschäfte wurden Abteilungen des Kanzleramts zu eigenen Ämtern verselbständigt (Reichsjustizamt 1877, Reichsschatzamt 1879). Für die verbleibenden Aufgaben wurde das Kanzleramt 1879 in "Reichsamt des Innern" umbenannt. Dessen Nachfolger in der Republik, das Reichsinnenministerium, bezog 1919 das Gebäude des Großen Generalstabs am Königsplatz. Die Wilhelmstraße 74 wurde vom Auswärtigen Amt übernommen.