부산에서 태어났지만 서울과 부산을 오가며 학교를 마쳤고, 1997년 SBS 드라마 '모델'에서 본격적인 배우 생활이 시작된다. 서울예술대학 영화과를 졸업하고 god의 데뷔곡이었던 어머님께 뮤직비디오에 주연으로 출연하며 대중에게 얼굴을 알렸다. 이후 단국대학교 연극영화과에 진학하고서 1998년 KBS 2TV 청소년 드라마 학교에 주연급으로 출연하였으며 카리스마 반항아 캐릭터를 연기하며 주목을 받기 시작했다.

1999년에는 당대 최고의 휴대폰 브랜드였던 삼성전자 애니콜의 2대 전속모델로 전격 발탁되어 승승장구하기 시작하는데, 특히 그가 메인으로 광고한 제품은 다름 아닌 애니콜 중에서도 시대의 명기로 꼽히는 미니 폴더(SCH-A100, SCH-6900, SPH-A1000, SPH-A1010)와 듀얼 폴더(SCH-A2000, SCH-A2000)였기 때문에 오늘날까지도 그의 전속모델 시절을 기억하는 사람들이 많을 정도다.

2000년에는 'TJ Project'라는 이름으로 가수 활동을 하기도 했다. 음반 판매보다는 반항아 이미지를 위한 프로젝트라고 한다.

2002년 시청률 40%를 넘긴 대히트작 명랑소녀 성공기에 당시 국민적 신드롬을 일으키고 있던 장나라와 함께 출연하며 큰 인기를 얻었다. 두 주연 배우의 코믹적인 호흡과 훌륭한 케미는 시청자들의 찬사를 받았다. 이후, 2004년 11월부터 2006년 11월 군생활을 하였다. 제대 후 복귀작인 2007년 3월 MBC 드라마 고맙습니다를 통해 다시 복귀하였다. 하단에서 후술하겠지만, 당시에는 병역비리 사건의 여파로 인해 비판 여론이 많았으나 연기력을 인정받아 재기에 성공했다. 2008년 6월 2일에 2살 연상의 발레리나 김여진과 결혼하여 슬하에 아들 둘과 딸 하나가 있다.

2010년 드라마 추노에서 훗날 장혁하면 가장 먼저 떠오르는 배역이자 인생 캐릭터로 평가 받는 이대길 역으로 열연하여 그해 등장인물을 가장 잘 표현한 배우와 가장 좋아하는 배우 항목에서 각각 1위에 선정됐다. 기사 그리고 이 드라마로 장혁은 2010년 KBS 연기대상 대상 수상의 영예를 안는다. 그 다음해인 2011년 히트작 뿌리깊은 나무에서도 열연을 하며 SBS 연기대상 최우수상을 수상했다. 2013년 6월 9일부터 미르의 후임으로 일밤의 리얼입대 프로젝트 진짜 사나이로 예능 프로에 고정 출연한다. 37세라는 적지 않은 나이에도 불구하고 훌륭히, 혹은 좀 설정이 과하다 싶을 정도로 촬영에 임하며 액션 배우의 끼를 응용하고 군생활에서 몸소 익힌 선임 모시기도 자연스레 하면서 해당 프로에 적응하는 모습을 보였다.