Był dyrygentem słynnej orkiestry Berliner Philharmoniker.

W czasie II wojny światowej był członkiem NSDAP.

Zmarł na atak serca w Anif (Austria).

Aktorka Isabel Karajan jest jego córką.