Urodził się w portowym mieście Sendai. W 1918 roku wraz z rodziną przeniósł się do Sapporo na północnej wyspie Hokkaido. W młodości grał jako organista w kościele. Pierwszą oryginalną kompozycję napisał w 1936 roku. Jego pierwsze utwory pisane były na pianino. W 1939 roku przeprowadził się do Tokio, gdzie rozpoczął od 1942 roku karierę kompozytora muzyki filmowej. Uznanie przyniosła Hayasace współpraca z Akirą Kurosawą, zapoczątkowana w 1948 roku (ścieżki dźwiękowe m. in. do filmów: "Pijany anioł", "Zbłąkany pies", "Rashomon", "Piętno śmierci", "Siedmiu samurajów"). Oprócz tego, Hayasaka był stałym kompozytorem innego wielkiego reżysera - Kenji Mizoguchi (m. in. filmy "Opowieści księżycowe", "Ukrzyżowani kochankowie", "Zarządca Sansho"). W czasie wojny skomponował także kilka koncertów i suit na orkiestrę. W swoich czasach uznawany za najlepszego japońskiego kompozytora filmowego. Jego uczniami byli Masaru Sato i Toru Takemitsu. Genialną, zaledwie 14 letnią karierę, przerwała przedwczesna śmierć na gruźlicę. Nie ukończył pracy nad muzyką do "Żyję w strachu" Kurosawy. Ścieżka dźwiękowa została dokończona przez jego podopiecznego, Sato. Fumio Hayasaka wywarł ogromny wpływ na rozwój muzyki kinowej w Japonii, pozostawiając po sobie zróżnicowany pod względem stylów dorobek - od początkowych utworów w stylu romantycznym, poprzez zastosowanie tradycyjnych instrumentów japońskich, aż po modernistyczne brzmienia, Hayasaka nadał nowej jakości krajowym soundtrackom, inspirując przyszłą generację twórców do łączenia tendencji rodzimych z nowoczesnymi, często niekonwencjonalnymi, dźwiękami. Większość jego utworów słynęła z bogatego wykorzystania werbli i innych instrumentów perkusyjnych. W późniejszym okresie twórczości eksperymentował z kompozycjami w pełni starającymi się zintegrować z tłem filmu, pisał muzykę, stanowiącą uzupełnienie świata przedstawionego bądź nawet charakteryzującą poszczególnych bohaterów. Znany z licznych inspiracji europejskich oraz z zamiłowania do energicznych rytmów latynoamerykańskich.