Georg John rozpoczął swoją karierę teatralną w 1900 roku na małych scenach i w wędrownych teatrach. W 1904 roku został aktorem i reżyserem w Wilhelmshaven. Następnie od 1905 roku był zatrudniony w Słupsku, Altonie, Mülheim, Bochum i Getyndze. W 1914 roku zaczął pracę jako aktor i reżyser w wiedeńskim Teatrze Narodowym.
W 1917 roku rozpoczął karierę w niemym kinie. Na początku grywał dostojników. Jednak typowe dla niego stały się dziwaczne role w wielu niemieckich klasykach ekspresjonizmu.
Georg John najwięcej współpracował z Fritzem Langiem wcielając się w role drugoplanowe i epizodyczne. W "Zmęczonej Śmierci" grał żebraka, w "Nibelungach" trzy różne role, a w "M" ślepego sprzedawcę baloników. Natomiast w "Portierze z hotelu Atlantic" Friedricha Wilhelma Murnaua przypadła mu kreacja nocnego stróża.
Przez nazistów został sklasyfikowany jako "Volljude". Po ich dojściu do władzy w roku 1933 został natychmiast wyłączony z niemieckiej sceny kulturalnej i przestał grać w filmach. Jednakże dołączył do organizacji Kulturband Deutscher Juden i występował na scenach teatralnych do jej rozwiązania 11 września 1941 roku. Po raz ostatni wystąpił w sztuce "Spiel im Schloß" Franza Molnarsa.
Czasami, aczkolwiek rzadko reżyserował. Zaraz po rozwiązaniu Towarzystwa Kultury Żydowskiej wywieziono go do łódzkiego getta, gdzie stan jego zdrowia się pogorszył i zmarł w niewyjaśnionych okolicznościach.