俗话说鸟尽弓藏，兔死狗烹，当年太平军风起云涌，席卷半个中国，八旗、绿营望风即溃。轻挺无奈之下不得不下令地方兴办团练，这也就有了湘军以及由之派生的淮军、楚军。
太平天国虽然被镇压，战乱依然不断。其中最大的有两股，即活跃在中原的捻军和盘踞西北的回民军，在新疆还有所谓的“哲德沙尔汗国”割据一方。满清统治者就算再想裁撤勇营，也不得不先依靠勇营去对付这些反清武装。所以湘军仅仅是缩编，而淮军也得以保留。
捻军活动地域图
清廷在平定太平天国后，便开始对付捻军。捻军骡马中队，擅长流动作战，因此给清军造成了很大麻烦，唯一一支堪用的满蒙军队就是被捻军打得全军覆灭，蒙古亲王僧格林沁授首。曾国藩也是因为对付捻军不利下台，才换上了李鸿章。而淮军同样也打了很多败仗，大将张树珊被打死，刘铭传也差点在尹隆河全军覆没。最后李鸿章费了九牛二虎之力，大修河防工事，把中原的河流变成禁锢捻军骑兵的锁链，才终于消灭了捻军。
平捻之后，满清又想裁撤淮军。谁知道又发生了盲目排外的“天津教案”，民众杀死法国领事、10名修女、2名神父、另外2名法国领事馆人员、2名法国侨民、3名俄国侨民和30多名中国信徒，焚毁了望海楼天主堂、仁慈堂、位于教堂旁边的法国领事馆，以及当地英美传教士开办的其他4座基督教堂。破坏行动持续了3小时。同治九年（1870年）6月24日，外国军舰来到天津，七国公使提出抗议。
于是，最能征善战的淮军一部（包括铭军、盛军等）又被调入京津地区备战。虽然教案最终以中国让步得以和平解决，但是此后很长一段时间，北京都面临着外国的军事威胁，例如因伊犁问题，沙俄就派出海军到渤海示威。因此这支淮军终于作为保卫北京最有战斗力的一支武装力量，被长期保留下来。至于其他的淮军，例如鼎军、树军等则多被裁撤。
所以淮军得以保留下来，是与满清日益深重的国内外危机息息相关的。即使如此，淮军仍不断削弱。由平捻战争时期的八万人，到甲午战争时期只剩下一万多人。当初调入天津的盛军和铭军，本来都是各有一万多人的大部队，也分别减为六千人和四千人，因此在面对日军时很快就消耗殆尽。从这个意义上来说，一直致力于打压消灭汉族勇营的满清统治者，也是自食其果。