Pochodził z rodziny o tradycjach artystycznych. Jego rodzeństwo, Lionel i Ethel, również byli aktorami. Swą karierę rozpoczął od występów na Broadway'u. Był tam specjalistą od ról szekspirowskich. W filmach niemych zaczął występować od 1912 roku. Grał zarówno w obrazach zawadiackich, jak i dramatach czy komediach. Jego nieme filmy, które osiągnęły sukces to m.in. "Raffles, the Amateur Cracksman", "Doktor Jekyll i pan Hyde", "Sherlock Holmes", "Piękny Brummel", "Don Juan" oraz "Ukochany łajdak". Mimo dużego talentu aktorskiego John nie umiał za bardzo radzić sobie w życiu. Popadł w alkoholizm, żenił się aż czterokrotnie. Kiedy do kina wprowadzono dźwięk, nie grał w filmach na miarę swego talentu. Zazwyczaj były to role, w których parodiował własne, kiepskie życie. Można do nich zaliczyć: "Ludzie w hotelu", "Napoleon na Broadwayu", "Kolacja o ósmej" i "A Bill of Divorcement". Zmarł z powodu zapalenia płuc i marskości wątroby. Jego jedyna córka kilka lat po śmierci Johna napisała autobiografię, w której skupiła się na swym ojcu i swoich relacjach z nim. Na jej podstawie nakręcono film, w którym główną rolę zagrał Errol Flynn.