Urodzony i wychowany w Nowym Jorku Phifer rozpoczął karierę aktorską ubiegając się o rolę w filmie 'Clockers' (1995) Spike'a Lee. Został wtedy wybrany do zagrania głównej roli i pracował u boku Harvey Keitela i Delroy'a Lindo. Otrzymał krytyczne opinie za rolę Strike'a, młodego handlarza narkotyków z New Jersey, zamieszanego w morderstwo.
Podążając za imponującym debiutem na wielkim ekranie, pojawił się w komedii 'Zagniewani młodociani' (1996).
W thrillerze 'Koszmar następnego lata' (1998) zagrał z Jennifer Love Hewitt i Freddiem Prinzem Jr. Wystąpił także w filmie 'Przepis na życie' (1997), w którym zagrały też takie sławy jak: Vanessa Williams, Vivica A. Fox i Nia Long.
W 2002 roku Phifer zagrał u boku Eminema, Brittany Murphy i Kim Basinger w filmie Curtisa Hansona '8 Mila' (2002) oraz w 'Płatne w całości' (2002), w reżyserii Charlesa Stone'a.
W czerwcu tegoż roku został uhonorowany na American Black Film Festival, gdzie otrzymał nagrodę "Rising Star".
Phifer pojawił się także w filmie 'O-Otello' (2001) obok Julii Stiles i Josha Hartnetta.
Do swojej filmografii dodał także rolę Dr. Gregory'ego Pratta w obsypanym nagrodami serialu 'Ostry dyżur' (1994), za którą otrzymał nominację do NAACP Image Award.
Inne telewizyjne role Mekhi Phifera to m.in. główna rola w filmie 'Carmen: A Hip Hopera' (2001), w którym udzielał się na ścieżce dźwiekowej.
Pojawił się także w obsypanym nagrodami Emmy filmie 'Lekcja przed egzekucją' (1999), w którym zagrali także Don Cheadle i Cicely Tyson. Za tę rolę otrzymał wiele przychylnych recenzji oraz nominację do NAACP Image Award.
Pochwycił również wymagającą rolę sławy NFL Gale'a Sayersa w filmie ' Piosenka Briana' (2001). Pojawił się także w filmie 'Czarna eskadra' (1995) oraz gościnnie w serialach: 'Homicide: Life on the Street' i 'Ulice Nowego Jorku'.
W 2003 Phifer ukończył parcę nad filmem 'Honey'. Można go także zobaczyć w 'Świt żywych trupów' obok Raya Liotty.