Nach dem Viermächte-Abkommen über Berlin 1971 begannen beide deutsche Staaten mit Verhandlungen über einen Grundlagenvertrag. Wie schon beim Transitabkommen führten die Staatssekretäre Egon Bahr und Michael Kohl für Bonn und Pankow die Gespräche, die am 21. Dezember 1972 in den „Vertrag über die Grundlagen der Beziehungen zwischen der Bundesrepublik Deutschland und der Deutschen Demokratischen Republik“ mündeten, den beide im jeweiligen Regierungsauftrag in Ost-Berlin unterzeichneten. 

In Anbetracht der noch bis 1969 geltenden Hallstein-Doktrin, nach der die Aufnahme diplomatischer Beziehungen zur DDR durch Drittstaaten als „unfreundlicher Akt“ gegenüber der Bundesrepublik betrachtet und mit dem Alleinvertretungsanspruch Bonns gleichzeitig die Souveränität des zweiten deutschen Staates in Frage gestellt wurde, vereinbarten Bahr und Kohl nun, „normale gutnachbarliche Beziehungen zueinander auf der Grundlage der Gleichberechtigung“ zu entwickeln und sich dabei von den Prinzipien der „souveränen Gleichheit aller Staaten, der Achtung der Unabhängigkeit, Selbständigkeit und territorialen Integrität, dem Selbstbestimmungsrecht, der Wahrung der Menschenrechte“ leiten zu lassen. Gleichzeitig vermied Bonn aber eine ausdrückliche völkerrechtliche Anerkennung der DDR. Beleg dafür war auch, daß nicht die Einrichtung von Botschaften, sondern nur von „Ständigen Vertretungen“ beschlossen wurde. Zudem blieb die Frage der deutschen Staatsangehörigkeit offen. Bahr überreichte Kohl zum Abkommen einen „Brief zur deutschen Einheit“, in dem die Bundesregierung explizit feststellte, daß der Grundlagenvertrag nicht im Widerspruch zum Ziel der Wiedervereinigung stehe. 

Die CDU/CSU-Opposition lehnte den Vertrag dennoch ab und warf der Regierung Brandt vor, zu nachgiebig verhandelt zu haben und das DDR-Unrecht in puncto Mauer, Schießbefehl und Inhaftierung Oppositioneller nicht ausreichend thematisiert zu haben. Egon Bahr kommentierte das hinterher: „Bisher hatten wir keine Beziehungen, jetzt werden wir schlechte haben – und das ist der Fortschritt.“ Ein weiterer Fortschritt durch den Grundlagenvertrag manifestierte sich im Herbst 1973 mit dem gleichzeitigen UN-Beitritt beider deutscher Staaten.