Kempowski werd geboren als zoon van een reder uit Rostock en een Hamburgse moeder. Zijn opleiding volgde hij in Rostock. Hij overleefde het bombardement op Hamburg van 1943 waar hij op dat moment op bezoek was. In 1945 moest hij als 15-jarige dienst nemen in de Duitse Wehrmacht.
Na de Tweede Wereldoorlog werkte Kempowski in Hamburg en Wiesbaden. Hij berichtte de Amerikanen over de transporten van door de Sovjet-Unie inbeslaggenomen Oost-Duitse machinerieën. Bij een bezoek aan zijn familie in 1948 werd hij gearresteerd door de inlichtingendienst NKVD en voor spionage veroordeeld tot 25 jaar tuchthuis in het SpeziallagerBautzen. In 1956 werd hij vrijgelaten en vertrok hij naar Hamburg. In een dorp in de buurt van Hamburg[1] werd hij leraar.
Zijn eerste roman, Im Block, verscheen in 1969 en hierin beschreef hij zijn eigen gevangeniservaringen.[2] Zijn eerste succesvolle werk was het autobiografische Tadellöser und Wolf, waarin hij zijn jeugd in nazi-Duitsland beschreef. Dit was het eerste deel van een negendelige reeks die ook bekendstaat als Deutsche Chronik
Im Block, ein Haftbericht, Reinbek (1969)
Tadellöser & Wolff, ein bürgerlicher Roman, München (1971)
Uns gehts ja noch gold, Roman einer Familie, München (1972)
Haben Sie Hitler gesehen?, Deutsche Antworten, München (1973)
Der Hahn im Nacken, Mini-Geschichten, Reinbek (1973)
Immer so durchgemogelt, Erinnerungen an unsere Schulzeit, München (1974)
Ein Kapitel für sich, München (1975)
Alle unter einem Hut, über 170 witzige und amüsante Alltagsminiminigeschichten, Bayreuth (1976)
Wer will unter die Soldaten?, München (1976)
Aus großer Zeit, Hamburg (1978)
Haben Sie davon gewußt?, Deutsche Antworten, Hamburg (1979)
Van 1965-1975 was hij basisschoolleraar te Nartum, gem. Gyhum en viel daar in positieve zin op door het geven van aanschouwelijk onderwijs; van 1975-1979 was hij basisschoolleraar te Zeven (Nedersaksen).