W młodości Ed Harris nie myślał o robieniu kariery aktorskiej, ale sportowej. W szkole średniej namiętnie grywał w baseball i "football" amerykański. Za doskonałe wyniki sportowe otrzymał stypendium, dzięki któremu mógł podjąć studia na Uniwersytecie Columbia. Kiedy w 1971 roku wraz z rodziną przeprowadził się do Oklahomy, kontynuował edukację na tamtejszej uczelni. To właśnie tam po raz pierwszy zetknął się z aktorstwem. Został członkiem szkolnego kółka teatralnego i dzięki ciężkiej pracy udało mu się zaangażować do miejscowego teatru. Tam po przedstawieniu "Camelot", w którym grał króla Artura, otrzymał swoje pierwsze owacje na stojąco. Zachęcony tym sukcesem przeniósł się do Kalifornii, gdzie ukończył szkołę aktorską. Przez kilka następnych lat grywał w tamtejszych teatrach, zyskując bardzo dobre recenzje. Swoją osobą udało mu się zainteresować producentów filmowych, którzy zaczęli obsadzać go w niewielkich rolach.
Punktem zwrotnym w karierze Harrisa był film "
Pierwszy krok w kosmos". Wcielił się tam w postać astronauty Johna Glenna. Co prawda obraz nie był przebojem, ale krytycy zwrócili uwagę na młodego aktora. Przez kilka następnych lat zagrał w wielu filmach, które mimo iż były na dobrym poziomie, to jednak nie stały się kasowymi przebojami. Tak było do roku 1989, kiedy został zaangażowany przez
Jamesa Camerona do filmu "
Głębia". Rola ta uczyniła z niego gwiazdę. W 1995 roku aktor otrzymał swoją pierwszą nominację do Oscara za film "
Apollo 13". Kolejne nominacje do Oscara otrzymał w 1998, 2000 i 2002 roku za role w filmach: "
Truman Show", "
Pollock" i "
Godziny".