W wieku 71 lat, kiedy większość ludzi wypoczywa na emeryturze, ten uznany producent, reżyser i pedagog rozpoczął karierę aktorską i za swój filmowy debiut nagrodzony został Oscarem.
Pochodził z niemiecko-francuskiej rodziny, która pod koniec XIX wieku osiedliła się w Rumunii. Do Stanów Zjednoczonych przybył w 1925 roku. W połowie lat 30. zdobył uznanie produkując i reżyserując sztuki teatralne na Broadwayu oraz współpracując z Orsonem Wellesem przy legendarnym słuchowisku radiowym ''Wojna światów'' i przy ''Obywatelu Kane'' (1941). W 1937 roku razem z Wellesem założył Mercury Theater. W 1941 roku został wiceprezesem wytwórni Davida O. Selznicka, lecz po japońskim ataku na Pearl Harbor objął kierownictwo wojskowej stacji radiowej. Po wojnie dzielił czas i serce między Nowy Jork i Hollywood, produkując spektakle teatralne (m.in. ''Cradle With Rock'', w sumie wyprodukował 891 przedstawień!) i filmy (m.in. ''Żyją nocą'' i ''On Dangerous Ground'' Nicholasa Raya, ''List od nieznajomej'' Maxa Ophulsa, ''Złego i piękną'' i ''Pasję życia'' Vincente Minellego, ''Juliusza Cezara'' Josepha L. Mankiewicza, czy ''Potępioną'' Sidneya Pollacka). Do 1973 roku tylko raz, anonimowo, wystąpił na ekranie kinowym (w ''Siedmiu dniach w maju'' Johna Frankenheimera z 1964). Karierę aktorską rozpoczął w wieku 71 lat i był to debiut najlepszy z możliwych. Za drugoplanową kreację błyskotliwego, acz przerażającego profesora Charlesa Kingsfielda w filmie swojego byłego studenta Jamesa Bridgesa ''W pogoni za papierkiem'' został uhonorowany Nagrodą Akademii. Od tej pory Houseman grał średnio trzy razy do roku, pojawiał się w kinie (m.in. w ''Rollerballu'' Normana Jewisona, ''Trzech dniach Kondora'' Sidneya Pollacka, ''Mgle'' Johna Carpentera'', czy ''Innej kobiecie'' Woody'ego Allena, ogromny talent parodystyczny ujawnił w ''The Cheap Detective'') i telewizji (m.in. serial ''Noble House'' z Pierce'm Brosnanem). Rolę profesora Kingsfielda powtórzył w telewizyjnej adaptacji filmu Bridgesa w latach 1978-79 i 1983-86. Pracował bardzo intensywnie aż do swojej śmierci (rak) w 1988 roku. Przed śmiercią zdołał jeszcze wydać trzytomową biografię, doczekał się również wielkiego zaszczytu w postaci nadania nowo wybudowanemu nowojorskiemu teatrowi jego imienia.