马邑之谋未能取得成功，从此之后，匈奴与汉朝断绝了和亲，不断攻打交通要塞，常常侵扰汉朝的边境，边境报警的次数，数不胜数。汉匈之间的战争，正式开始。
此时，一名天才军事家卫青，登上了历史舞台。卫青，字仲卿。河东郡平阳县。他的父亲郑季充当县中小吏，在平阳侯曹寿家供事，曾与平阳侯的侍女卫媪通奸，生了卫青。卫青的同母哥哥卫长子，同母姐姐卫子夫在平阳公主家得到汉武帝的宠爱，所以冒充姓卫。
卫青是中国西汉时期军事家、外戚，民族英雄。汉武帝皇后卫子夫之弟、大司马骠骑将军霍去病之舅。
卫青一生，七出塞外，战功卓著，为汉武帝时期汉朝在汉匈战争中所取得的胜利作出巨大的贡献。
龙城之战
汉武帝元光六年（前129年），冬季，匈奴攻上谷郡，杀害抢掠官吏和百姓。汉武帝派车骑将军卫青率军从上谷出兵，骑将军公孙敖从代郡出兵，轻车将军公孙贺率军从云中郡出发，骁骑将军李广率军从雁门出发，各自率一万骑兵，攻打屯兵在边关交易市场的匈奴军队。卫青一直打到龙城，斩首与俘虏匈奴七百多人。
公孙贺没有什么战果。公孙敖被匈奴击败，伤亡七千名骑兵。李广也被匈奴击败，被匈奴活捉，匈奴把他放在两匹马中间，让他躺卧在网袋里。走了十余里，李广装死，后来突然跃身跳到匈奴的马背上，从匈奴人手中夺过弓箭，跃马扬鞭向南奔驰，于是得以逃脱。
汉朝廷将公孙敖、李广交给廷吏审讯，论罪当斩，缴纳了赎金，降为平民，只有卫青被赐封关内侯。
出兵雁门
汉武帝元朔元年（前128年），秋季，匈奴两万骑兵侵入汉境，杀了辽西太守，掠走两千多人。并包围了韩安国的军营，又进入了渔阳县、雁门郡，再两地各杀害与掳掠一千多人。车骑将军卫青率领三万骑兵从雁门郡出击，将军李息代郡出兵，卫青斩杀、俘虏匈奴数千人。
收复河南
元朔二年（前127年），冬季，匈奴入侵上谷郡、渔阳郡，杀害掳掠官吏、百姓一千多人。汉武帝派卫青、李息从云中郡出发向西一直到陇西地区，在河南（黄河以南）攻打匈奴的楼烦王、白羊王，斩杀俘获了匈奴数千人，得到牛羊百多万头，驱赶走了白羊王、楼烦王，于是占领了河南地。武帝下诏封卫青为长平侯。卫青的校尉苏建、张次公这次都立有军功，武帝封苏建为平陵侯，张次公为岸头侯。
主父偃上奏说：“黄河以南的土地肥沃富饶，外面有黄河作为屏障，蒙恬在这里筑城驱逐匈奴，省去了内地转运屯戍漕运的麻烦，扩大了中国的疆域，这是消灭匈奴根本的办法。”
汉武帝采用了主父偃的计策，建立朔方郡，派苏建率十多万人修筑朔方城，又重新修缮蒙恬所建的要塞，以黄河为屏障。从很远的地方将粮食转运过来，崤山以东地区都遭受运输的劳苦，耗费达数十百万钱，国家的库存空虚。汉朝也放弃了上谷郡偏远的造阳地区给匈奴。夏季，朝廷招募了十万百姓迁居朔方郡。
奇袭高阙
汉武帝元朔三年（前126年），冬季，匈奴军臣单于死了，他的弟弟左谷蠡王伊稚斜自立为单于，击败了军臣单于的太子于单，于单逃到汉朝并归降。
汉武帝元朔三年（前126年）夏季四月丙子（初七日），武帝封匈奴太子于单为涉安侯，几个月后他就去世了。匈奴派遣数万骑兵侵入边塞，杀了代郡太守恭，掳掠了一千多人。
秋季，匈奴又侵入雁门，杀害掳掠一千多人。
汉武帝元朔四年（前125年），夏季，匈奴三万骑兵入侵代郡、定襄郡与上郡，杀害和掳掠了数千人。
汉武帝元朔五年（前124年）。匈奴右贤王多次侵扰朔方郡，汉武帝命令车骑将军卫青率三万骑兵从高阙出塞，封卫尉苏建为游击将军，左内史李沮为强弩将军，太仆公孙贺为骑将军，代相李蔡为轻车将军，都隶属于车骑将军卫青，一起从朔方郡出军；封大行李息、岸头侯张次公为将军，一起率军从右北平出击，共计十多万人，攻击匈奴。
右贤王认为汉军相距遥远，不会到达，饮酒，喝醉了。卫青等率兵出塞六七百里，在夜里赶到，包围右贤王的军营。右贤王吃惊，乘夜逃走，只带数百名强壮的骑兵冲出包围，向北逃去。卫青俘获右贤王下属的裨王十多人，男女部众一万五千多人，牲畜数十近百万头。于是卫青率军回朝。
到达边塞，汉武帝派使臣带着大将军印，在军中便拜卫青为大将军，诸将领都属卫青统领。夏季四月乙未，又加封卫青食邑八千七百户，封卫青的三个儿子卫伉、卫不疑、卫登都为列侯。
二出定襄
汉武帝元朔五年（前124年），秋季，匈奴一万余名骑兵入侵代郡，杀死都尉朱英，掳掠民众一千多人。
汉武帝元朔六年（前123年），春季，二月，大将军卫青率军自定襄出发出击匈奴。以合骑侯公孙敖为中将军，大仆公孙贺为左将军，翕侯赵信为前将军，卫尉苏建为右将军，郎中令李广为后将军，左内史李沮为强弩将军，都归大将军卫青统领，斩杀匈奴几千人返回，驻扎在定襄、云中、雁门等地休养兵马。
汉武帝元朔六年（前123年）夏季，四月，卫青再次率六位将军自定襄出发，攻打匈奴，斩杀与俘虏匈奴一万多人。右将军苏建、前将军赵信共带领三千多骑兵，单独与匈奴单于所率军队相遇，交战一天多，汉军伤亡殆尽。
赵信率领其部剩余的八百名骑兵投降了匈奴。苏建全军覆没，脱身逃亡，独自回到大将军卫青的军营。卫青把苏建囚禁起来，送到汉武帝行在。之后被押解到长安，汉武帝没杀他，赎身后为平民。
漠北大捷
匈奴伊稚斜单于得到翕侯赵信之后，任命他为自次王，将自己的姐姐嫁给他为妻，和他一起谋划对付汉朝的策略。
汉武帝元狩三年（前120年）秋季，匈奴率数万骑兵分别侵入右北平和定襄地区，杀死掳掠一千多人。汉朝得到浑邪王所管辖的土地后，陇西郡与北地郡及上郡等地，但匈奴的侵扰日益减少，汉武帝下诏书命令三郡的戍卒减少一半，来减轻全国百姓的徭役负担。
汉武帝元狩四年（前119年）。汉武帝与各位将领商议说：“翕侯赵信为匈奴单于出谋划策，常常以为汉朝士兵不能越过大沙漠，不能在那里久留。现在派出大部队，一定能达到彻底消灭匈奴的目的。”
于是用粟米喂养了十万战马，命令大将军卫青、骠骑将军霍去病各率领五万名骑兵，还有私人跟随驮运行装的四万匹马，负责转运辎重跟在大部队后面的有数十万人。开始，骠骑将军率军从定襄出发，抵挡单于。捕获的俘虏说单于在东方，便又命令骠骑将军率军从代郡出兵，命令大将军卫青率军从定襄出兵。郎中令李广多次请求出征，汉武帝认为他老了，不允许，过了很久才答应，任命李广为前将军。太仆公孙贺为左将军，主爵都尉赵食其为右将军，平阳侯曹襄为后将军，都归属于大将军卫青。赵信为单于谋划说：“汉军穿过大沙漠，人马会疲劳困乏，匈奴到时候可以坐等俘虏汉军兵马。”于是将辎重运到更远的北方，以精锐的部队在沙漠以北。
大将军卫青出塞后，从捕获的俘虏口中得知单于的居住地，自己便带着精兵前去攻打，命令前将军李广与右将军赵食其军队合并，从东路出发。
大将军卫青率军出塞一千余里，穿过大漠，看到单于的军队正列阵以待。于是卫青下令利用兵车围成一周结成营阵，又派遣五千骑兵向匈奴出击，匈奴派出大约一万名骑兵迎战。这时恰好太阳要落山，狂风骤起，砂砾打在脸上，两军相互看不见。汉军增派左右两翼的军队将单于包围。单于看到汉兵人数多，兵马强壮，估计自己打不过汉兵，于是便乘坐六匹骡子拉的车，带着数百名精壮骑兵，冲出汉军的包围，向西北奔去。
当时天色已黑，汉军与匈奴的将士正在搏斗，双方伤亡大体相当。汉军左校捕获的俘虏，说“单于在天未黑之前已经离去”，卫青又派汉军轻骑兵乘夜追击，大将军率军跟随其后，匈奴兵四散逃走。近天明时，汉军已行程二百多里，没捉到单于，捕获斩杀匈奴一万九千多人，部队到了窴颜山赵信城，得到匈奴的存粮，供应军需，在此停留一日后，烧毁了城内所剩余的粮食，班师撤回。
此战之后，匈奴势力从此退出河套及其以西一带。史称“是后匈奴远遁，而幕（漠）南无王庭”。
不过，汉朝也付出了惨重的代价，卫青与霍去病两军出塞时，曾在边塞检阅官私马匹共计十四万匹，战后回塞时马匹已不到三万。