Urodzony 7 października 1978 r., Joe jest jednym z trzech synów brytyjskiego aktora Aluna Armstronga ("Mumia powraca", "Van Helsing", "Braveheart", "Oliver Twist" etc). Uczęszczał do Elliot School w Putney w latach 1993-1997, skąd następnie trafił do Uniwersytetu Bristol. Jako student wystąpił w paru przedstawieniach w Uniwersytecie Bristol, a także w National Youth Theatre. Skoncentrował się głównie na teatrze, zaczął pracować w teatrach Soho i Bush, w Londynie. W serialach występował przeważnie gościnnie. Wielki przełom w jego karierze nastąpił, gdy otrzymał rolę Allana a Dale w serialu BBC "Robin Hood". Przez wielu fanów serii jego postać została uznana za najlepszą, przewyższającą samego Robina pod każdym względem. Tak odniesiony sukces doprowadził do tego, że Joe'emu zaproponowano stałą rolę w serialu BBC "Breaking the Mould". Gra w nim Normana Heatleya, członka ekipy naukowców, którzy u schyłku lat 30 XX w. wprowadzili penicylinę do użycia w medycynie. Ostatnio można Joe oglądać także w sztuce "Orphans" na scenach teatrów m.in w Edynburgu i Londynie.
Joe jest jednym z niewielu aktorów, którzy konsekwentnie unikają upubliczniania swojej osoby. Jak do tej pory nie udzielił on praktycznie żadnego wywiadu. Nie zmieniła tego nawet popularność, jaką przyniosła mu rola Allana a Dale.