在秦朝灭亡以后，楚汉相争时期。由于无力顾及匈奴的袭扰，导致匈奴军队入侵了上谷、渔阳等地。并杀害当地的百姓，百姓生活苦不堪言。
汉武帝时期之前，大汉王朝都是用和亲的方式，来维持大汉和匈奴的关系。
通过文帝、景帝等先辈们的综合治理，西汉的经济、政治、军事都得到了飞速发展。到了汉武帝统治时期，国力已经空前强盛。刘彻皇帝，觉得不能再这样受匈奴的欺负了！要想让大汉王朝成就百年大业、甚至千年大业，光这样委曲求全，忍受屈辱是不行的。必须得主动出击，教训一下匈奴人。让他们知道大汉王朝也不是好惹的。
阴山山脉，位于黄河几字弯以北，内蒙古中部地区。呈东西走向，全长1200公里。山脉西起阿拉善高原，东至滦河。自古以来就是中原王朝一个重要的战略要地。
黄河流域，水土肥沃，北方的游牧民族也看中这块风水宝地，适合他们放牧。但是对于中原来说，如果失去了河套地区，就是北方门户大开。著名诗人王昌龄的《出塞》：“秦时明月汉时关，万里长征人未还。但使龙城飞将在，不教胡马度阴山”就是描写的阴山山脉的重要性。
汉武帝一共分三次对匈奴部落发动了大规模的战争。
第一次，是在公元前127年春天。刘彻不希望匈奴袭扰上谷、渔阳地区，并对长安造成巨大的威胁。决定采取胡骑东进、汉军西击的作战方针。派车骑将军卫青、将军李广率军出云中（今天内蒙古自治区托克托旗），沿着黄河北岸向西进发，采用避实击虚的战略，迂回到陇西一带。
然后对河套及其以南地区的匈奴军队实施大包围，闪电袭击。这一战，歼敌数千人，缴获牛羊十万余头，匈奴白羊王逃走了。自此，西汉收复了秦末以来被匈奴占领的河套地区。
汉武帝采纳了主父偃的建议，设置了朔方郡（今内蒙古自治区杭锦旗北）和五原郡（今内蒙古包头以西），又派10万人修建了朔方城，重新修复了秦代遗留的旧长城，并且从内地移民10万去朔方定居，大大增强了边防力量，消除匈奴军队对长安的威胁。
此后，匈奴不甘心丢失的河套平原，屡屡反击上谷、代郡、雁门、云中、上郡、朔方，想要夺回失地。汉将军卫青数次击退匈奴的反击，从此匈奴主力退到漠北一带。
第二次，是在公元前121年3月。为了打通通往西域的道路，联合大月氏一起抗衡匈奴军队，保卫西部边境的安全。汉武帝命骠骑将军霍去病率一万骑兵，发动了对河西走廊的战役。
霍去病率军出陇西，穿越乌鞘岭，越过焉支山，跋涉千余里，斩杀匈奴将士八千多人。俘虏浑邪王子及相国、都尉，缴获休屠王的祭天小金人。浑邪王和休屠王兵败逃走。
同一年的夏天，霍去病再一次西征匈奴军队。这一次，他率军从甘肃庆阳出发，越过贺兰山后，在祁连山与合黎山之间的黑河流域击败匈奴浑邪王和休屠王的军队。这一战，俘虏了五王及王母、王子59人，相国、将军、都尉等60多人，共杀敌3万多人。
这一战，对匈奴主力造成了沉重的打击。大单于对浑邪王和休屠王十分失望，准备严惩他们。后来由于内讧，浑邪王亲手杀了休屠王，率4万余人投降了大汉王朝。汉武帝把他们安置在了陇西、北地、上郡、朔方、云中五个地方，为五属国。又在河西走廊设置了酒泉、武威、张掖、敦煌四郡，巩固了战后的成果。这些名字一直沿用到现在。
此战，完全打通了大汉与西域的交通要塞，加强了大汉王朝与西方各国的经济和文化的交流。匈奴军队彻底退出河西走廊一带。后来唐玄奘西去取经，归来传授佛教就是走的河西走廊这条交通要道。
第三次，是在公元前119年。匈奴改变了作战的策略。其首领采纳了汉朝降将赵信的建议，认为汉朝不会深入漠北一带，所以把军队主力迁移到蒙古沙漠以北，仅派少数部队袭拢汉朝的边境地区。汉武帝为了彻底打败匈奴，便召集群臣商议对策。后决定将计就计，利用匈奴的错误判断，乘其不备集中10万骑兵深入漠北，寻找匈奴主力作战。
大将军卫青率将军李广、左将军公孙贺等人，领骑兵5万人从西路出军。穿过沙漠向北行进千余里，遇到单于军队。经过一天一夜的激烈战斗，汉军包围了单于的营地，歼灭匈奴19000余人，单于率残部逃脱。汉军缴获匈奴大批粮草，补充军需而归。
霍去病率骑兵从东路出军，穿过大漠，向北挺进2000余里。同匈奴左贤王交战，大获全胜，俘虏7万余人。左贤王狼狈逃走，汉军追到狼居胥山后，凯旋归来。
最后一次战役，是对抗匈奴打击最大的一次。匈奴的主力部队彻底丧失，两路汉军共残敌9万多人。匈奴残部逃向边境，自此出现“匈奴远遁，而漠南无王庭”的局面。大汉再也不用受匈奴的威胁了。
直到公元前87年，汉武帝病逝。匈奴再也没有能力与大汉王朝相抗衡。