1995년 MBC 24기 탤런트로 데뷔했다. 같이 데뷔한 동기들이 바로 이성재와 박용우다. 신인이었지만 돋보이는 외모로 데뷔와 동시에 여러 작품에 캐스팅되었지만, 출연작들이 대부분 조기종영되는 비운을 맞이했고 한동안 단역과 조연으로 출연하다가 1999년 방영된 전 MBC 드라마 왕초에서 악역 이정재 역할로 대중에게 이름을 알렸으며, 더불어서 당시 상당한 화제가 되었던 조성모의 뮤직비디오에도 조연으로 많이 출연하였다. 초창기에는 악역이나 무게감 있는 배역에서 두각을 나타냈기에 고지식하고 딱딱한 것 같은 선입견이 강했다. 하지만 2001년 개봉한 두사부일체에서 주연을 맡으며 파격적인 코믹연기를 선보이며 기존의 딱딱한 이미지에서 탈피하는데 성공했고, 이듬해인 2002년 개봉한 가문의 영광으로 충무로 흥행 배우 반열에 오르게 된다.

2014년, 드라마 마마에 출연하여 매우 좋은 연기력을 보여주었고 작품 자체도 히트하여 송윤아와 함께 연말 시상식에서 수상을 하게 되지 않을까 예상되었지만 최우수상을 수상한 송윤아와 달리 정일우에게 밀렸다. 비록 무관에 머물렀지만, 끝까지 참석하여 아낌없이 박수를 쳐주는 모습들에 이전의 정준호에서 그를 다시 보게 되었다는 사람들도 제법 있었다.

2년 후인 2016년에는 이병훈 연출작 옥중화에서 윤원형 역할로 출연했다. 사극 연기는 처음이라 극 초반 어색한 사극 톤으로 몇몇 여배우들과 함께 지적을 받았으나 시간이 지나자 적응된 모습을 보여주고 있다. 촬영 중에 큰 사고가 터졌는데, 그가 던진 도자기가 바닥에 튕겨져서 촬영감독의 머리를 깨버렸다. 당연하지만, 일부러 그런 것은 아니고 우연의 일치로 불운하게 사고가 난 것이다. 결국, 촬영감독이 머리를 부여잡자 엄청나게 당황한 채로 뛰어왔다.

2018년 말부터 2019년 초까지 JTBC 드라마 SKY 캐슬에 출연해 대학병원 정형외과 의사 강준상 역할을 맡아 열연을 펼쳤다. 덕분의 정준호 특유의 이미지를 탈피했다는 평과 배역 소화를 굉장히 잘해냈다는 평을 받고 있다. 온라인상에서 큰 화제를 몰고 있는 것도 있어 정준호에 대한 부정적 평판도 깨끗이 씻겨 내려가 최근에는 거의 찾아볼 수 없다. 본인으로서는 작품 선구안이 굉장히 좋아졌다고 볼 수 있다. 그야말로 신의 한 수인 셈이다.

해당 드라마와의 인연으로 최원영과 함께 대한신경외과학회 홍보대사로 위촉되었다. 2021년에 경희대학교 총동문회 홍보대사로 위촉되었다.