陈庆之从北伐中奇迹生还后，依然受到梁武帝的重用。回到建康不久，他就被任命为右卫将军，封永兴县侯，食邑一千五百户。这一任命表明梁武帝对陈庆之的信任和赏识并未因北伐的最终失败而减弱，反而更加认可他的军事才能。
公元530年，陈庆之被任命为持节、都督缘淮诸军事、奋武将军、北兖州刺史，负责梁朝北部边境的防务。这一任命将他放在了抵御北方威胁的最前线，足见朝廷对他的倚重。
就在同年，梁朝境内发生僧强起义。僧强是一位妖僧，自称天子，土豪蔡伯龙起兵响应，众至三万，攻陷北徐州。起义军声势浩大，济阴太守杨起文弃城而逃，钟离太守单希宝被害，局势十分危急。
梁武帝诏令陈庆之前去征讨，并亲自临白下城为其饯行，面授机宜：“江、淮兵劲，其锋难当，卿可以策制之，不宜决战。”
梁武帝认为江淮地区的士兵勇猛劲健，难以正面抵挡，嘱咐陈庆之应以计谋取胜，避免硬拼。
陈庆之受命而行，他谨记梁武帝的指示，运用智谋和战术，结果”未到十二天，便斩蔡伯龙、僧强，传首建康”，迅速平定了这场规模不小的叛乱。这次胜利再次证明了陈庆之卓越的军事指挥能力，不仅能在北伐中以少胜多，也能在平定内乱中速战速决。
公元532年，陈庆之被任命为都督南州、北司州、西豫州、豫州四州诸军事、南、北司二州刺史，成为梁朝北部边境的最高军事长官之一。在任期间，他继续展现其军事和行政才能。
陈庆之到任后，立即展开对北魏的军事行动，围困悬瓠（今河南汝南），并在溱水击败北魏颍州刺史娄起、扬州刺史是云宝。接着，他又在楚城击败北魏行台孙腾、大都督侯进、豫州刺史尧雄、梁州刺史司马恭。这一系列胜利，巩固了梁朝在北境的防御，也展示了陈庆之持续不断的军事威慑力。
除了军事上的成就，陈庆之在地方治理上也表现出色。他减免了义阳镇的兵役，停止水运补给，使江湘诸州得以休养生息。这些措施减轻了百姓负担，促进了当地经济的发展。同时，他还“开田六千顷，两年之后，粮食充实”，通过屯田开荒，增加了粮食生产，充实了军粮储备。梁武帝经常为此嘉奖陈庆之。
公元535年，陈庆之被晋号为仁威将军。这一荣誉头衔是对他战功和政绩的进一步肯定。陈庆之的治理风格和个人品格也值得称道。史书记载他“性格祗慎，每次奉诏，都要洗沐拜受；生活俭朴，只穿素衣，而且不好丝竹”。这种谨慎、俭朴的作风，在当时崇尚奢华的门阀社会中显得尤为难得。
陈庆之还是一位善于抚慰士卒的将领，“虽身为武将，但善抚士卒，能使部下为其效死力”。这正是他能够率领七千白袍军横扫中原的重要原因之一。他尊重北方人士，曾对朱异说：“吾始以为大江以北皆戎狄之乡，比至洛阳，乃知衣冠人物尽在中原，非江东所及也，奈何轻之”。这种开放包容的态度，也使他能够更好地治理北部边境。
陈庆之的最后一战发生在公元536年。当年十月，东魏定州刺史侯景（原为北魏将领，后投靠东魏）率七万人寇楚州，俘楚州刺史桓和，然后乘胜进军淮上。侯景致信陈庆之劝降，但陈庆之不为所动，坚决抵抗。同年，豫州发生饥荒，陈庆之开仓放粮济灾民，使大部分灾民得以度过饥荒。这一善举感动了当地百姓，以李升为首的八百多名豫州百姓请求为陈庆之树碑颂德。梁武帝下诏批准，这是对陈庆之治理能力的高度认可。
公元539年十月，陈庆之去世，享年五十六岁。梁武帝对这位爱将的逝世十分悲痛，“以其忠于职守，战功卓着，政绩斐然，追赠他为散骑常侍、左卫将军，鼓吹一部，谥曰“。值得一提的是，梁武帝还特别”诏令义兴郡发500人为其会丧”，这在那时是一种特殊的荣典，表明陈庆之在梁朝朝廷中享有崇高地位。单字”武”谥，是古代武将谥号的最高荣誉，可见陈庆之的武勋之着。
陈庆之的一生充满了传奇色彩。他出身寒门，四十岁之前一直担任文职，却在中晚年展现出非凡的军事才能。他身体文弱，不善于骑马射箭，却能够率领七千白袍军横扫中原，攻占洛阳，创造了“以七千兵力破三十万大军”的军事奇迹。他不仅战功卓着，在地方治理上也颇有建树，深受军民爱戴。