此后，金尚宪历任都承旨、右参赞、大司宪、咸镜道观察使、刑曹、工曹、吏曹、礼曹判书等官职。崇祯五年（1632年）因反对追尊仁祖生父定远大院君为朝鲜元宗而一度被罢免官职。崇祯八年（1635年）恢复大司宪官职后，大力要求扩充军备，完善北方军事设施，并主张加强安州城防卫。丁卯胡乱后，金尚宪力主斥和论，对于丁卯议和猛烈批判道：“虽兵至城下，事决存亡，犹以伏剑决死争之，不以虚礼为轻也。……今并与区区所自保者，不能守之，则虽有仓廪、府库、宫室、百官之富，与亡国无异也。”表现出他对主和缓祸论调的深恶痛绝。此外他还多次要求朝鲜对后金采取强硬政策，乃至断交。

崇祯九年（1636年），后金汗皇太极自称皇帝，改国号称大清。朝鲜的斥和论达到高潮，金尚宪说：“今若更修和事，则国体颠倒，将何以举颜乎？”仁祖也下定决心斥和，于六月十七日宣布与清断交。是年十二月，皇太极大举讨伐朝鲜，史称丙子胡乱。清军势如破竹，直逼汉城，朝鲜仁祖落荒而逃，退守南汉山城。在国家命悬一线的危急时刻，以吏曹判书崔鸣吉为首的主和派和以礼曹判书金尚宪为首的斥和派（主战派）之间的矛盾白热化。他们多次发生激烈的辩论，而仁祖倾向于主和论，金尚宪遂免冠伏藁于阙门外，请就死于贼阵。次年（1637年）正月江华岛失陷以后，仁祖的底线彻底崩溃，决定出城投降（即丁丑下城）。当金尚宪听说仁祖即将出城投降的消息后，“累日绝食，至是自缢，为子所救解，得不死，闻者莫不惊叹”。

当时，清朝要求朝鲜交出斥和诸人，但金尚宪被特别保护，到正月三十日仁祖出城投降那天，金尚宪也被特许不用出城，因此虽然他斥和最力，却也免于一场风险。只有官位较低的三学士（洪翼汉、尹集、吴达济）作为替罪羊送往盛京（今中国沈阳）处死。

丙子胡乱后，金尚宪愤于时局，辞去官职，重返安东鹤驾山隐居。战后斥和派的气势大跌，仁祖和崔鸣吉甚至指责金尚宪“欺世盗名”、“诈死而欲得美名”。崇德四年（1639年）十二月，已退隐山林的金尚宪在听说朝鲜政府打算应满清要求，出兵助征明朝的消息时，破例上疏，坚决反对，仁祖不予采纳。金尚宪虽然在丙子胡乱中逃过一劫，但在崇德五年（1640年）时遭到了清朝的追究。是年十月，负责朝鲜事务的清议政大臣英俄尔岱（龙骨大）等偶然得知某位金姓大臣（起初误以为叫“金斜阳”）与丙子斥和有涉并拒绝接受官职、不迎接回国省亲的昭显世子、指使儒生反对助兵攻明等，于是来到义州城外的中江，朝鲜领议政洪瑞凤等被仁祖派去接待，在接受英俄尔岱等盘问的过程中透露此人是金尚宪。于是英俄尔岱要求传拘金尚宪（清朝文献记载为“金声黑尼”，系自满文音译），金尚宪被迫从安东来到汉城，十二月从汉城被押送到盛京，古稀之年的他开始了放逐异域的生涯。临行前他用谚文创作了时调《去矣三角山》，成为流传千古的绝唱。一年后，清朝考虑到金尚宪年老多病，在征求昭显世子意见的基础上将他安置于义州。其后金尚宪遭另外两名朝鲜被拘官员申得渊、李烓构陷，于是以“干预国政”的罪名再次被押解盛京囚禁，时为崇德七年（1643年）二月。

金尚宪被拘盛京时，写下了大量诗文，他将这些诗作命名为《雪窖集》，取中国西汉时苏武被匈奴囚于大窖的典故，以明自己坚贞之心志。这在他一首诗中即可体现：“忽忽殊方断送秋，一年光景水争流。连天败草西风急，羃碛寒云落日愁。苏武几时终返国，仲宣何处可登楼？骚人烈士无穷恨，地下伤心亦白头。”有趣的是，一年多以后，主和派头子崔鸣吉也因私通明朝的罪名被押解到盛京拘禁，这对死对头并没有势成水火，反而互相以诗文酬唱，表现了相互的谅解与赞赏。

清军入关后，多尔衮为怀柔朝鲜，下令释放丙子胡乱后入清为质的昭显世子，并将崔鸣吉、金尚宪等被拘禁的公卿归还朝鲜。顺治二年（1645年）二月，金尚宪终于从盛京回到祖国，归国后他隐居于杨州石室，不再过问政事。顺治三年（1646年），金尚宪被仁祖任命为左议政，被他上疏推辞达32次。顺治六年（1649年）朝鲜仁祖逝世，金尚宪才来到汉城，奔哭阙下，朝鲜孝宗待以殊礼，“命内侍两人扶掖而入”，并且“命以肩舆出入禁中”，同时也特许在其告身和疏章中不使用清朝年号。

由于金尚宪的高风亮节，他归国后德高望重，刚即位的孝宗欲拜金尚宪为相，但因发生六使诘责事件而未果。三年后，即顺治九年（1652年）六月二十五日，金尚宪逝世于杨州石室别墅，享年八十三岁。其后被追赠为议政府领议政，谥号“文正”，并获得配享孝宗宗庙的厚遇。

丙子胡乱期间，崔鸣吉负责撰写和书，金尚宪看到国书称皇太极为“陛下”（意味着两国变为君臣关系），痛哭流涕，撕掉国书，留下了著名的“手裂和书”的典故。另据史料记载，“金尚宪自十八日裂书之后，却食不入句糜于口者六日，命在顷刻。闻有斥和臣送虏之举，始起饮食，曰：‘我若不食先死，则人必谓欲避虏阵之行矣！’”。

据说丙子胡乱期间，朝鲜众臣“外虽不敢言，内则实欲和事之成”。大臣李植曾私下对金尚宪说：“崔疏之言，似不甚非。”金尚宪连说两次“斩字厌矣！”，因为当时斥和派一直要求斩了崔鸣吉，所以金尚宪暗示他已对局势绝望，不再执拗于斥和，只是畏惧人言而不敢公开说出。

当时英俄尔岱传旨赦免崔鸣吉和金尚宪二人的死罪，令二人拜谢皇恩，崔鸣吉赶紧起立欲谢恩，并拉上金尚宪一起行拜礼，金尚宪借口腰痛而不拜，即使英俄尔岱多次强迫，他也始终没有行拜礼，英俄尔岱走的时候，崔鸣吉跪送致谢，而金尚宪则卧于其侧，充分显示出他“威武不能屈”的精神。

金尚宪一生著作等身，留下了《朝天录》、《南槎录》、《清平录》、《雪窖集》、《南汉纪略》、《野人谈录》等大量诗文集。其中有些作品已亡佚，保存至今的作品被合辑为《清阴集》四十卷。金尚宪还工于书法，尤擅长董其昌体。

《去矣三角山》（가노라 삼각산아）是一首谚文时调，是金尚宪留下的脍炙人口的名作。三角山即汉城的北汉山，这是他被押往沈阳时所作的，充满悲壮的爱国之情。该作品被收录进金天泽辑的时调集《青丘永言》中，并且是韩国国文教科书的课文。

가노라 三角山아 다시 보쟈 漢江水야

故國山川을 떠나고쟈 하랴마는

時節이하 殊常하니 올동말동하여라

金尚宪是朝鲜半岛历史上家喻户晓的爱国之士。他为人正直，嫉恶如仇，时人称金尚宪“若在朝，则恶人不敢立于朝端矣”，同时不畏权贵，“屡忤上旨”。史载金尚宪“正直独行，遇事敢言，无愧古人。终日端坐，不设惰容，人皆敬惮，推为当代第一人物”。同时，他在丙子胡乱期间高举义理大旗，力主斥和之论，“手裂和书”成为朝鲜的一个著名典故，又在被抓往沈阳时，坚贞不屈，充分表现了他的民族气节和爱国情操，被誉为朝鲜的文天祥。故有评论称：“清阴当天地易位之日，不胜慷慨忠愤之志，高飞远引，老死丘壑，何不可也？祖宗培养之盛，足为国家之光也。”

不过金尚宪在丙子胡乱期间虽力主斥和，却也限于虚无缥缈的义理层面，所争的也是和书格式等意义不大的话题，因此金尚宪虽有性理学家的清高气节和不忍国家受辱沦亡的爱国精神，但因其“徒尚高谈”，无法救国家于危难之时，其“宁以国毙”也要“守义而亡”的斥和论甚至可以说是不顾国家危难的轻率不负责任之举。另外金尚宪在丙子胡乱间一会儿绝食，一会儿上吊，但都没死，也被人质疑为“欺世盗名”、“诈死而欲得美名”。不过后来仁祖表示：“尚宪曾在（南汉）山城，自谓必死，而竟不果，予疑其要名。今入沈阳，他人皆不得全节，而独此人终始不渝，至于国家所给白金，亦且还纳，其清刚之操，不亦可尚乎？”并叹道：“疾风知劲草，诚哉言乎！”