2003년 SBS 드라마 올인에서 이병헌의 아역으로 데뷔했다. 본격적으로 이름을 알린 건 달콤한 인생과 비열한 거리에서 조직폭력배 역할로 등장하게 되면서이다. 이후 영화와 TV에 주연과 조연을 오고 가며, 활약하고 있다. 조연으로서는 인상깊은 작품들이 많았던 반면, 주연으로서의 흥행작은 한동안 나오지 않았지만, 2012년에 공개된 26년이 사회 분위기에 힘입어 흥행하면서 다시 조명받고 있다. 2014년에는 명량에 조연으로 출연하며 생애 최초로 1,000만 관객 동원 영화를 남겼으며, 2015년 연평해전에 출연하며 흥행작을 남겼다. 그리고 2016년 태양의 후예가 초대박 히트를 치면서 스타 반열에 올랐다.

병역을 해군 헌병(현 군사경찰)으로 복무했다. 군기 헌병 출신으로 헌병 직별 헌병으로 지원한 이유는 그냥 멋있어 보여서 지원했다고. 단순한 이유이지만, 본인이 원했던만큼 헌병에 대한 자부심은 꽤 크다고 한다.

26년, 연평해전에 출연하면서 좌, 우 모두에게 까방권을 획득했다. 연예가중계에서는 진구가 작중에서 군복을 입으면 그 작품이 확 뜬다고 밝혔다. 진구의 말로는 육해공 중에서 공군 빼고 군인 역할을 다 맡아 봤다고 한다.

자신의 이름을 검색해 보지 않는다고 한다. 경쟁자들이 많아 자신이 검색순위에서 밀린다고 한다. 특히 도라에몽의 노진구에게 밀리는 것이 굉장히 분하다고 한다. 요즘은 배우 여진구가 치고 올라오고 있으며, 선거철이 되면 부산진구나 광진구에도 밀리는데다 심지어 가끔은 "○○○ 사진 구함" 같이 문장에도 밀린다고 한다. SNL 코리아 시즌7 5회에 출연해서 이름 때문에 겪은 고충을 소재로 신명나는 셀프 디스를 했다. 공교롭게도 도라에몽에서 노진구를 맡았는데, 김준현의 도라에몽에 대인관계가 꼬여버렸다. 김연주의 이슬이한테 자신의 치부가 들켰기 때문.

2014년 9월 21일에 4살 연하의 비연예인 여자친구과 결혼식을 올렸다. 무한도전 쓸친소 특집에서 거론했던 짝사랑 상대방으로, 무한도전에 나와 얘기한 것은 지금의 아내를 떠보기 위한 것이라 한다. 결과적으로 결혼까지 했으니 본인은 이때의 거론을 매우 만족하고 있는 듯. 그리고 2015년 6월 29일에 득남했으며, 관련 기사 2016년 11월 4일에는 둘째를 득남했다.