1826년 김기순(金箕淳)의 아들로 태어났으나 김헌순(金獻淳)에게 양자로 입적되었다.자는 경고(景皐)이다.
1853년(철종 4) 정시문과(庭試文科)에 병과(丙科)로 급제 성균관 대사성 사간원 대사간 사헌부 대사헌을 역임하고 형조참판 이조 참판(吏曹參判)에 이르렀다.
재임 중에 거북선을 만들어 효자미도(孝子味島)에 배치하고 방선(防船)과 병선(兵船)을 지어 구치도(鳩峙島)에 배치하여 해상 방 어에 각별한 관심을 기울였다. 또 군보(軍保)를 다시 조사하여 그 전에 조병로 목사가 창설한 균포(均布)제도를 동포로 고치고 조정의 특명을 받들어 국방에 전심하였다.