Herbert von Karajan 1908. április 5-én született Salzburgban. Négyéves korában kezdett zongorázni tanulni. Nyolcéves volt, amikor szülei beiratták a salzburgi Mozarteumba. 1929-ben karmester szakon szerzett diplomát a bécsi Zeneakadémián. Ugyanebben az évben Salzburgban a Festspielhausban a Mozarteum zenekarával debütált: Csajkovszkij V. szimfóniáját, Mozart A-dúr zongoraversenyét és Richard Strauss Don Juan című szimfonikus költeményét vezényelte. 1929-ben az ulmi városi színház első karmesterének választották, 1933-ban pedig már a Salzburgi Fesztiválon dirigált. 1935-ben Bukarestben, Brüsszelben, Stockholmban, Amsterdamban és Párizsban vezényelt, rá két évre Beethoven Fideliojával mutatkozott be a Berlini Filharmonikusok élén. Harminc éves korában Berlinben a Staatsoperban Wagner Trisztán és Izoldájával ért el igazi világsikert. Még ebben az évben szerződést kötött a Deutsche Gramophonnal, és több felvételt készített a berlini Staatskapelle zenekarral.

A nácik hatalomra jutása után Karajan belépett a nemzetiszocialista pártba. Azóta is vitatják, hogy pontosan mi késztethette erre. Mindenesetre Adolf Hitler nem értékelte nagyra karmesteri teljesítményét: 1939-ben Karajan a Mesterdalnokok vezénylése közben hirtelen elvesztette a fonalat és nem tudta, hol járnak. Az énekesek "kiestek", a nagy zavarodottságban pedig még a függönyt is leengedték. Hitler úgy döntött, Karajan soha nem vezényelhet a Bayreuthi Fesztiválon. Mint Göring kedvenc művésze Karajan azonban megmaradhatott a Staatskapelle élén, ahol több mint 150 operaelőadást dirigált. 1942-ben, a II. világháború csúcspontján vette feleségül Anna Maria Sauest-et, akinek nagyszülei izraeliták voltak. Karajan kegyvesztett lett, és Olaszországba menekült feleségével.

Karmesteri pályafutása a második világháború után teljesedett ki, miután megbocsátották neki együttműködését a nácikkal. Fellépései még felmentése után is sokáig tiltakozást váltottak ki. Első ízben 1948-ban vezényelte a Bécsi Filharmonikusokat és ebben az évben kezdett operát rendezni a milánói Scalában. 1956 és 1964 között a bécsi Staatsoper vezető karmestere, majd a Salzburgi Ünnepi Játékok teljhatalmú irányítója, emellett a milanói Scala vezető karnagya és a New York-i Filharmonikusok vendégkarmestere volt. 1969-ben létrehozta a Herbert von Karajan Alapítványt.

Operakarmesterként és koncert-dirigensként egyaránt a 20. század legkiválóbbjai közé tartozott. Interpretációjának pontosságáról és tárgyilagosságáról volt nevezetes. Könyörtelen művészi igényessége nem ismert határt sem önmagával, sem a zenekarral, sem az énekesekkel szemben. Mindezzel számos súrlódást és konfliktust provokált – a sikersorozatot botrányok kísérték a Scalában, Salzburgban, Bécsben és a Berlini Filharmonikusok élén. Ez utóbbi zenekar maradt tevékenységének középpontjában, de a sorozatos viták megrontották a muzsikusok és Karajan kapcsolatát, ezért 1989 áprilisában lemondott berlini tisztségéről.
 

A német karmester Wagner birodalmában érezte igazán otthon magát, de ugyanolyan átéléssel szólalt meg vezénylésével Beethoven és Mozart is. Az olasz opera szintén közel állt hozzá, Verdi, Mascagni és Leoncavallo műveit felejthetetlenül vezényelte. Zenei hagyatéka rendkívül gazdag, több száz lemezt készített, melyek összesen 12 millió példányban keltek el. Egész sorozatokat, Beethoven szimfóniáit, Mozart- és Wagner-operákat ismételt meg, a tökéletességet hajszolva. Karajannak nagy jelentősége volt a CD-k kifejlesztésében. Úttörő szerepet vállalt e technológia és a formátum népszerűsítésében. A hagyomány szerint az eredetileg 60 perces műsoridőre tervezett compact disc-eket 74 percre bővítették – mindezt azért, hogy a Karajan által vezényelt Beethoven IX. szimfónia ráférjen egy lemezre.

A karmesterfenomén sok időt és energiát fordított fiatal művészek támogatására. A Karajan Alapítvány érdemi segítséget nyújtott Valerij Gergijev oszét és Mariss Jansons litván karmester, valamint Jevgenyij Kiszin orosz zongoraművész illetve a kiváló tehetségű és elragadó osztrák hegedűművész, Anne-Sophie Mutter pályájának elindulásában is. A 20. század egyik legjelentősebb karmestere 1989-ben hunyt el.