자는 중율(仲栗) 호는 금시재(今是齋).증조부는 진사(進士) 김번(金蕃)이고 조부는 신천군수(信川郡守)를 지낸 김생해(金生海)이며 부친은 도정(都正)을 지낸 김극효(金克孝)이다. 모친은 좌의정(左議政) 임당(林塘) 정유길(鄭惟吉)의 딸이다. 5남 중 둘째로 형은 우의정(右議政) 김상용(金尙容)이고 아우로 진사 김상건(金尙謇) 좌의정 청음(淸陰) 김상헌(金尙憲) 부윤(府尹) 김상복(金尙宓) 등이 있다.
음보(蔭譜)로 관직에 오른 뒤 임진왜란 때인 1599년(선조 32)에 호조정랑(戶曹正郞)으로 명(明)나라 군대에 군량을 조달하였고 1604년에 다시 호조정랑으로 임용되었다. 1607년 진산군수(珍山郡守) 회양부사(淮陽府事)에서 판관(判官)을 거쳐 1개월 내에 3품에 올라 사헌부(司憲府)에서 탄핵을 받은 적도 있었으나 1609년(광해군 1)에 장단부사(長湍府使)로 부임했다. 사후에 좌찬성(左贊成)에 추증되었다. 묘는 남양주(南楊州) 와부읍(瓦阜邑) 율석리에 있다.
아들 김광혁(金光赫)은 1612년(광해군 4) 임자식년사마시(壬子式年司馬試)에 진사 1등으로 합격하고 1624년(인조 2) 갑자알성문과(甲子謁聖文科)에 을과 1등으로 급제하여 승지(承旨)를 지냈다