Niski, niezbyt przystojny, tworzył swoje kreacje w oparciu o barwę głosu, charyzmę i nieprawdopodobny wręcz magnetyzm, zdolny odwrócić uwagę widza od partnerujących aktorowi gwiazd.
Był synem brytyjskiego aktora teatralnego Fredericka Rainsa, na scenie debiutował w wieku 11 lat. W 1913 roku wyemigrował do USA, lecz na czas I wojny światowej wrócił do Anglii i walczył w brytyjskiej piechocie. W między czasie pojawił się w fatalnie przyjętym niemym filmie ''Build Thy House''. Od połowy lat 20. występował na Broadwayu, został również wykładowcą w słynnej Royal Academy of Dramatic Art. Wśród jego uczniów byli m.in. młody Laurence Olivier oraz Isabel Jeans, marząca o wielkiej sławie aktoreczka, która została jego pierwszą żoną. W filmie dźwiękowym debiutował w wieku 44 lat w ''Niewidzialnym człowieku'' Jamesa Whale'a. Jakoże jego bohater większość czasu spędza w bandażach, Rains całą rolę musiał zbudować na odpowiednim modulowaniu głosu. Wypadł znakomicie. Universal zaproponował mu kontrakt oraz, po rolach w ''The Man Who Reclaimed His Head'' i ''Tajemnicy Edwina Drooda'' próbował uczynić następcą Borisa Karloffa. Rains jednak zbuntował się przeciwko wytwórni i kolejne propozycje wybierał już świadomie, uciekając od zaproponowanego przez Universal emploi. W powszechnej świadomości kojarzony jest z postaciami ''kulturalnych czarnych charakterów'' obdarzonych większymi manierami niż moralnością. Wielką rolę stworzył w dramacie Franka Capry ''Pan Smith jedzie do Waszyngtonu''. Kreacja przekupnego senatora Josepha Paine'a przyniosła mu uznanie i pierwszą nominację do Oscara. Kolejną otrzymał za chyba najbardziej pamiętną rolę- inspektora Barraulta w nieśmiertelnej ''Casablance''. W latach 1944-46 zdobył kolejne dwie nominacje- najpierw za tytułowego ''Pana Skeffingtona'', wiernego męża Bette Davis, a w 1946 za kreację nazistowskiego szpiega w ''Notorious'' Alfreda Hitchcocka. Rains uwielbiał grać w wysokobudżetowych produkcjach, do najlepszych jego ról zaliczyć również należy: Napoleona w ''Heart Divided'' (1936), odważnego księcia Jana w ''Przygodach Robin Hooda'', Napoleona III w ''Juarez'', psychiatrę Bette Davis w ''Now, Voyager'', czy mordującego z zazdrości muzyka w ''Upiorze z opery''. U schyłku życia stworzył znakomity epizod dyplomaty Drydena w ''Lawrensie z Arabii'' Leana. Po drugiej wojnie światowej Rains powrócił do teatru, czasem też pojawiał się w telewizji (m.in. w autorskich programach Hitchcocka). Zmarł w wieku 78 lat w New Hampshire. Jego córka Jessica jest również aktorką.