东晋元熙二年（420年），刘裕称帝。檀道济转官护军，加散骑常侍，兼领石头戍事。准许他直入殿省。又因他辅佐创业的功劳，皇帝改封他为永修县公，食邑二千户，徙官为丹阳尹，护军不变。宋武帝刘裕身体不适，赐给檀道济班剑二十人。后檀道济又出任为监南徐、兖之江北、淮南诸郡军事、镇北将军、南兖州刺史。

宋景平元年（423年），北魏军队在东阳城包围了青州刺史竺夔，竺夔告急。朝廷下诏加官檀道济为使持节、监征讨诸军事，与王仲德一起去救东阳。檀道济未到东阳时，魏军已烧掉营房、攻具逃走。檀道济正要出追，因城内无粮，于是开粮窖取陈年之谷，窖深数丈，出谷作米，经过一夜，魏军逃去已远，不再可追，最终只得作罢。檀道济回军后仍镇守广陵。

徐羡之将废庐陵王刘义真为平民，以此先告知檀道济，檀道济不同意，多次陈说不可，但不被采纳。徐羡之等人打算废少帝刘义符，立刘义隆，托辞让檀道济入朝，到建康后，把这计谋告诉他。将实行废立的前夜，檀道济到领军府谢晦处住宿。这一夜谢晦转辗不能入睡，而檀道济则上床便睡着，谢晦十分佩服他。废刘义符后，刘义隆还未到，檀道济入内守卫朝堂。刘义隆即位是为宋文帝，檀道济进号征北将军、加散骑常侍，赏给鼓吹乐队一部。进封为武陵郡公，食邑四千户，但檀道济坚决辞去。又增加督青州、徐州淮阳、下邳琅邪、东莞五郡诸军事。

后谢晦起兵叛乱，檀道济率军作为到彦之后继，到彦之战败退保隐圻，等到檀道济率领军队赶到。谢晦本来以为檀道济与徐羡之一起被杀，忽然听闻檀道济来到，谢晦军心动荡，不战自溃。谢晦叛乱平定后，檀道济升为都督江州、荆州的江夏、豫州的西阳、新蔡、晋熙四郡诸军事、征南大将军、开府仪同三司、江州刺史，持节、常侍不变，增封千户。

宋文帝元嘉八年（431年），到彦之北伐北魏，宋军已平定黄河以南，不久又丢失，洛阳金墉、虎牢都被魏军占领，魏军逼近滑台。朝廷加檀道济都督征讨诸军事，率军北讨。军队到达东平寿张县，遇到魏军将领、安平公乙旃眷。檀道济统率宁朔将军王仲德、骁骑将军段宏奋起进击，大败魏军。檀道济转战到高梁亭，北魏宁南将军、济州刺史、寿昌公悉颊库结前后迎战，檀道济分别派遣段宏及台队主沈虔之等设奇兵出击，当场斩杀悉颊库结。檀道济进军到济水上，连战二十余日，前后数十次交战，魏军人数众多，最终滑台被魏军占领。檀道济在历城保全军队而返。檀道济进位司空，持节、常侍、都督、刺史并如故，檀道济还镇寻阳。

檀道济因在前刘裕一朝立功，威信名望特别高，左右及心腹，都身经百战，几个儿子有才气，因而朝廷怀疑畏惧他。宋文帝生病多年，屡次病危。彭城王刘义康曾提醒宋文帝：如果宋文帝驾崩，檀道济将不可控制，就像谢晦一样。

元嘉十二年（435年），宋文帝病更重，刚好北魏进犯边境，就召檀道济入朝。檀道济到来时，宋文帝病已好转。元嘉十三年（436年）春，朝廷将要遣檀道济回镇所，檀道济已经上船，此时宋文帝又发病，再召檀道济回到饯行的道路上，把他逮捕交给廷尉。诏书说：“檀道济赶逢时遇，在过去受到了皇恩，他得到的宠幸和厚待，无人能及。但他不对这特殊的恩遇有所感动，去想报答其万分之一，反而凭空怀疑和存有反心，而且在危险的道路上越滑越远。元嘉以来，猜疑多结，不义不亲的心，附下欺上的事，已经为大家所知道，暴露无遗。谢灵运叛逆明显，但他却赞同他的邪说，常为他隐瞒。还偷偷散发财宝货币，招诱狡猾之徒。逃亡的人前来投奔的越来越多，日夜窥测谋划，想要达到这非望的目的。镇军将军王仲德入朝，多次陈说此事。朕因为他位居台鼎高位，预先赏赐封土，希望弥补互相的缝隙，使他或许能革面洗心。可是他怙恶不悛，终于发动反叛，因为朕生病，就规划实现其阴谋。前南蛮行参军庞延祖了解了他的全部阴谋，向我密报。对天子和父母的叛变，刑罚是不能赦免的。何况罪孽之深，像他这样严重。便可逮捕交付廷尉，按刑处斩。此事只限于首恶，其余都无所追究。”宋文帝下令逮捕檀道济和他的儿子给事黄门侍郎檀植、司徒从事中郎檀粲、太子舍人檀隰、征北主簿檀承伯、秘书郎檀遵等八人，都在廷尉处斩首。又收捕司空参军薛彤到建康处死。派遣尚书库部郎顾仲文、建武将军茅亨到寻阳，收捕檀道济的儿子檀夷、檀邕、檀演及司空参军高进之斩首。薛彤、高进之都是檀道济心腹，勇敢而有武力，当时人把他们比作张飞、关羽。起初，檀道济见人来逮捕，脱下头巾掷到地上说：“这是破坏你的万里长城！”檀道济死于宋元嘉十三年（436年）4月9日。次日，刘宋王朝为庆祝檀道济被杀而大赦天下。宋文帝刘义隆一直都恼恨檀道济，甚至在元嘉二十七年（450年），宋文帝刘义隆还在公开地把河南重镇的丢失，归罪于檀道济的“养寇自资”。

直到南朝宋孝武帝登基之后，檀道济之孙檀孺（檀邕之子）才被宽宥，到任官奉朝请。

晋义熙十二年（416年），刘裕北伐后秦，檀道济为冠军将军，与王镇恶同为先锋，引军沿淮水、淝水向许昌、洛阳进发。檀军先抵项城，后秦守将姚掌不战而降，但在进攻新蔡（今属河南）时，遭到了后秦大将董遵的顽强扺抗。檀道济督军猛攻，破其城，杀董遵，继而攻克许昌，擒获后秦颍川太守姚垣及大将杨业。利用军威大振之机，檀道济乘胜前进，拔阳城，克荥阳，直抵成皋（今河南省荥阳市）。秦征南将军姚洸屯戍洛阳，急向关中乞求援兵。姚泓派将姚益男领一万人马星夜赶赴往救。可援军尚未到达，檀道济已攻下成皋，并会同其它部队，四面环攻洛阳。姚洸孤军难守，只得开城门出降。

次年三月，刘裕让毛修之留镇洛阳，令檀道济率师继续西进。王镇恶克渑池，抵潼关。檀道济和沈林子渡河北击，进攻蒲（今山西永济），想以此绕过潼关，进入关中。但后秦守军战斗力甚强，城坚难下。檀道济不得不回军河南，会同王镇恶合攻潼关。后秦太宰姚绍率军五万援救，开关出战。晋军奋击，杀伤秦军千余人。秦军受挫后退驻定城（今陜西华阴东），据险固守。相拒数月，姚绍病死军中。秦军失去主将，无心战守。八月，王镇恶率舟师由黄河入渭水，至渭桥登岸，破后秦军。姚泓出城投降，后秦灭亡。刘裕东归后，任檀道济为征虏将军、琅琊内史。及刘裕建宋，檀道济以佐命之功，改任丹阳尹、护军将军。

永初三年（422年），檀道济又奉命出为镇北将军、南兖州刺史，镇守广陵（今江苏扬州），监淮南诸军。

刘裕死后，宋少帝即位，檀道济与徐羡之、傅亮、谢晦四人同为顾命大臣。北魏以宋值新丧，大举南进，共出数路，攻略宋地，司州全部及青州、兖州、豫州大部分地区很快被魏军夺占。檀道济闻警，率军救援。军至彭城，司、青二州并告危急，檀道济领兵不多，不足分赴，而青州道近，守军薄弱，便统兵兼程往救。魏军见宋援军将至，撤去青州治所东阳（今山东费县西南）之围。檀道济兵至东阳，军粮耗尽，只得停止追击，又见东阳城已残敝不堪，移青州治所于不其城（今山东即墨西南），尔后回军湘陆（今山东鱼台东南），阻止了魏军南进的势头。

元嘉七年（430年），为解除北魏对宋的威胁，宋文帝命檀道济统军北伐。宋军前部到彦之进军河南，收复洛阳、虎牢等地。但很快，北魏太武帝亲自率军反击，击溃了到彦之等部，刘宋前线部队一片混乱，很多地方纷纷失守，退驻滑台。翌年一月，檀道济率师往救滑台，军至寿张（今山东东平西南），遇魏安平公乙旃眷。檀道济领军奋勇前行，大破魏军，并乘胜北进，前后二十余日，连战三十余次，宋军多捷，进抵历城（今山东济南）。最终因魏军数量众多，滑台失陷，檀道济最终全军而还。

公元430年（元嘉七年），刘义隆下令出师北伐，任命檀道济总都督各路军事，不久宋军战败，粮草吃紧。檀道济军中有个兵士逃到魏营投降，把宋军缺粮的情况告诉了北魏的将领。北魏就派出大军追赶檀道济，想把宋军围困起来。宋军看到大批魏军围上来，军心动摇。檀道济却命令将士就地扎营休息。当天晚上，檀道济亲自带领一批管粮的兵士在一个营寨里查点粮食。一些兵士手里拿着竹筹唱着计数，另一些兵士用斗子在量米。魏军探子偷偷地向营里望了一下，只见一只只米袋里面都是满满的。他立即报告主帅，说檀道济营里军粮还绰绰有余，显然不能跟檀道济决战。魏将得到情报，以为前面来告密的宋兵是假投降，来诱骗他们上当的，就把投降的宋兵杀了。其实，檀道济在营里量的并不是白米，而是一斗斗的沙土，只是在沙土上覆盖着少量白米罢了。檀道济最终凭借“唱筹量沙”之计顺利退兵。

陶渊明在彭泽当了八十多天县令，因“不为五斗米而折腰”而解甲归田，在江州过着隐居生活，在他老年贫困的时候，即宋文帝元嘉元年（424年），正在担任江州刺史的檀道济听说了陶渊明最近又病了，家中又缺少食物，饿得已经躺在床上好些天，起不了床。心中甚是挂念，知道他喜爱喝酒，专门打了几斤好酒和一些他喜欢的美食，亲自到他家访问。在一个残败颓圮的院落，“环堵萧然，不蔽风日；短褐穿结，箪瓢屡空”，一位老人，已经躺在那张屡加修缮的旧床上好多天了，饥寒交迫。檀道济看后，心中一片酸楚，一位大名鼎鼎的文人晚年竟如此落魄，就忍不住的劝他说，“贤者在世，天下无道则忍，有道则至。今子生文明之世，奈何自苦如此？”“潜也何敢望贤，志不及也。”陶渊明回答道，很坚决的拒绝了檀道济送的酒肉。

看样子陶渊明看不惯当朝社会，不愿意为“五斗米而折腰”，此人极其清高，有着文人的骨气，不为利禄所动。堂堂一个江州刺史手握兵权，屈尊来请一个糟老头出山，居然还不给面子，按道理有陶渊明的苦头吃，可事实不是这样，檀道济也没有为难陶渊明。一位当朝战功赫赫的武将，一位满腹经纶的文人，一种惺惺相惜的友谊瞬间在这里得到了升华。

公元432年（元嘉九年），檀道济因屡有大功，被封为司空，镇寻阳。公元436年（元嘉十三年），刘义隆生重病，彭城王刘义康执政，担心檀道济会在刘义隆死后谋反，矫诏召檀道济入朝。临行前，其妻劝檀道济说：“震世功名，必遭人忌，古来如此。朝廷今无事相招，恐有大祸！”檀道济不听劝告，说：“我率师扺御外寇，镇守边境，从没有辜负国家，国家又怎么会辜负我心呢？”结果，檀道济一到建康，就被刘义康逮捕。檀道济被抓时，狠狠地把头巾拉下摔在地上，说：“乃复坏汝万里之长城！”最后，檀道济与其子十一人，及薛彤、高进之等亲信将领都在建康被处死。消息传到北魏，魏军将领弹冠相庆：“檀道济一死，南方就再没有可畏惧的人了！”

檀道济被杀15年后。宋文帝曾再发起北伐，却被北魏击败。北魏军队长驱直入，一度南征至长江北岸的瓜步，宋文帝刘义隆登石头城北望，面有忧色，长吁道：“如果檀道济还在，怎么会到这个地步！”

《宋书》的作者是南朝宋人，成书于檀道济被杀的数十年后。在《宋书》中，诛檀事件被记录于《宋书·文帝纪》《宋书·列传第三·檀道济传》，都说明，宋文帝认为檀道济被杀是罪有应得，并为庆祝檀道济的伏诛而大赦天下。甚至，在檀道济被杀15年后，宋文帝刘义隆依然认为檀道济是“养寇自资”的罪人。《宋书·列传第二十八·刘义康传》完全没有提及诛杀檀道济的重大功勋。但是，编撰在檀道济被杀200多年后的《南史·檀道济传》，却第一次出现了刘义康矫诏的说法。因此，导致了后世的历史争议：究竟是刘义隆支持刘义康矫诏诛杀檀道济，还是刘义隆亲自下诏诛杀檀道济？

公元782年（建中三年），礼仪使颜真卿向唐德宗建议，追封古代名将六十四人，并为他们设庙享奠，当中就包括“宋司空武陵公檀道济”。及至公元1123年（宣和五年），宋室依照唐代惯例，为古代名将设庙，七十二位名将中亦包括檀道济。在北宋年间成书的《十七史百将传》中，檀道济亦位列其中。