上文说到，汉宣帝元康二年（前64年）前后，汉匈之间在西域展开了一系列的竞争，其中的车师国争夺战中，汉军先胜后败，拱手将车师国故地让给了匈奴，但这也只是匈奴回光反照而已，匈奴内部分裂、衰落之势愈演愈烈。
神爵二年，匈奴虚闾权渠单于去世，握衍朐鞮单于凶暴嗜杀，国中不附，内部分裂。
汉宣帝神爵四年(前58)，左地贵人与乌禅幕共立稽侯珊为呼韩邪单于，发兵西击握衍。握衍自杀，其民尽降呼韩邪；左大且渠亡归右贤王，并与之共立日逐王薄胥堂为屠耆单于，发兵东袭呼韩邪。呼韩邪败走，屠耆居单于庭。
五凤元年(前57)七月，呼揭王自立为呼揭单于，右奥鞬王自立为车犁单于，乌藉都尉自立为乌藉单于，一时间五单于并立。
屠耆连败车犁、乌藉。乌藉、呼揭去单于号，共辅车犁单于。
呼韩邪西袭屠耆，屠耆兵败自杀，车犁降呼韩邪，五单于并立终结。
握衍朐鞮篡立
汉宣帝神爵二年（公元前60年）九月，匈奴虚闾权渠单于率领十余万骑兵在汉朝边塞狩猎，想要侵入汉匈边境进行掳掠，但大军没汇集之前，恰好有一名叫题除渠堂的匈奴人逃亡投降汉朝，报告了具体的情况，汉朝封他为言兵鹿奚卢侯，然后派后将军赵充国带领四万多骑兵屯驻在边境九个郡预防匈奴。
一个多月之后，虚闾权渠单于病重、吐血，因此不敢入侵汉朝，并且把军队撤回。匈奴派遣题王都犁胡次等人到汉朝来请求和亲，还没得到答复，虚闾权渠单于去世。当初，虚闾权渠单于刚即位时，罢黜了颛渠阏氏，颛渠阏氏便与右贤王屠耆堂私通，右贤王参加龙城大会后要离去，颛渠阏氏告诉他单于病重，让他暂且不要远离龙城。
几天后，单于死去，执事贵族郝宿王刑未央派人召集诸王，诸王还没到来，颛渠阏氏便和她的弟弟左大且渠都隆奇密谋，立右贤王为握衍朐鞮单于，握衍朐鞮单于是乌维单于的八世孙，属于远支了。
稽侯㹪逃亡 日逐王降汉
握衍朐鞮单于继位后，由于得国不正，所以凶恶残暴，来维护自身统治，杀死了刑未央等人，并且亲信任用且渠都隆奇，又尽数免除了虚闾权渠所有的子弟近亲的官职，用自己的子弟取代他们。
虚闾权渠单于的儿子稽侯㹪（即之后的呼韩邪单于）没能成为单于，便逃到他的岳父乌禅幕那里。乌禅幕本是乌孙、康居之间的小国国王，因多次受到侵掠，便率领其部众数千人投降匈奴，狐鹿姑单于将其弟弟的儿子、日逐王的姐姐嫁给乌禅幕为妻，让他统领原来的部众，居住在西部地区。
日逐王先贤掸的父亲是左贤王，左贤王本当为单于，后来让位给了狐鹿姑单于，狐鹿姑单于曾许诺将来立左贤王为单于。因此匈奴人都认为日逐王先贤掸应当立为单于。日逐王素来就与握衍朐鞮单于有仇怨，于是率领他的部众准备归降汉朝，他派人到渠犁国，与骑都尉郑吉取得了联系。
郑吉调集渠犁、龟兹等国合计五万人前去迎接日逐王率领的一万二千人、小王将十二人，他们随郑吉到了河曲居住，途中有不少人逃亡，郑吉派人追杀他们，最后郑吉带领日逐王来到京师长安。汉朝封日逐王为归德侯。握衍朐鞮单于改立他的堂兄薄胥堂为日逐王。
郑吉攻破车师国，又降服了日逐王，威震西域，于是护从车师国以西的北道各国，号称“都护”，汉朝在西域设置都护是从郑吉开始。汉宣帝封郑吉为安远侯，郑吉在西域的中部地区设立幕府，治所设在乌垒城，距离阳关二千七百多里。匈奴此时的势力从此越加衰弱，不敢再与汉朝争夺西域，匈奴原设在西域的僮仆都尉，也从此被撤销，从此汉朝的号令在西域各地通行。
左地贵人、乌禅幕共立呼韩邪
汉宣帝神爵三年（前59年）。匈奴握衍朐鞮单于又杀死原日逐王先贤掸的两个弟弟，乌禅幕为他们求情，没听从，因此心怀怨恨。后来匈奴左奥鞬王去世，握衍朐鞮单于便立自己的小儿子为奥鞬王，留在单于王庭。奥鞬部落的贵族人共立以前奥鞬王的儿子为王，全部一起向东迁徙。单于派右丞相率领一万骑兵前去追击，伤亡数千人，不胜。
匈奴握衍朐鞮单于为人凶残暴虐，喜好屠杀征伐，国中人都不依附于他。而太子和左贤王又多次诋毁左地的贵人，因此引起左地贵人们的怨恨和恐慌。正在这时，乌桓派兵攻打匈奴东部地区的姑夕王，掠走当地的大批人口，单于大怒。姑夕王感到害怕，于是和乌禅慕及左地贵人共立稽侯狦为呼韩邪单于，调派了东部地区的军队四五万人，袭击西部地区的握衍朐鞮单于，到了姑且水的北岸。
还未交战，握衍朐鞮单于的军队便溃败逃跑了，握衍朐鞮单于派人通告他的弟弟右贤王说：“呼韩邪率领匈奴人一起来攻打我，你肯派兵帮助我吗？”右贤王说：“你不爱惜百姓，杀害了诸多兄弟和诸贵族。你就死在自己的地方吧，不要来玷污我。”握衍朐鞮单于非常怨恨，自杀身亡。
左大且渠都隆奇逃亡到右贤王那里，他的民众都归降于呼韩邪单于。呼韩邪单于夺得了单于庭，过了几个月，宣布撤军，命令手下各自回到原来的地方，于是找到在民间的哥哥呼屠吾斯，立他为左谷蠡王，又派人告诉右贤王的贵族，想让他们其杀死右贤王。
五单于争立
汉宣帝神爵四年（前58年），冬天，左大且渠都隆奇与右贤王共同拥立握衍朐鞮单于的堂兄日逐王薄胥堂为屠耆单于，征发数万士兵，向东袭击了呼韩邪单于，呼韩邪单于兵败逃亡。屠耆单于回到西部地区，立其长子都涂吾西为左谷蠡王，最小的儿子姑瞀楼头为右谷蠡王，留他们驻守在单于庭。
汉宣帝五凤元年（前57年），秋季，匈奴屠耆单于派先贤掸的哥哥右奥鞬王与乌藉都尉各率二万骑兵屯驻在东方，以防备呼韩邪单于的袭击。这时匈奴西部的呼揭王与唯犁当户密谋，共同陷害右贤王，声称他想要自立为单于。屠耆单于于是杀了右贤王父子，后来得知右贤王是冤枉的，又将唯犁当户杀死。
呼揭王心里感到害怕，便叛逃而去，自立为呼揭单于。右奥鞬王听到消息，自立为车犁单于，乌藉都尉自立为乌藉单于，一时间匈奴有五个单于并立。
屠耆单于亲自率军向东攻击车犁单于，派都隆奇攻打乌藉单于，乌藉单于与车犁单于都战败向西北方向逃去，与呼揭单于合兵，共计四万人。乌藉、呼揭都去掉单于的称号，共同辅助车犁单于。屠耆单于知道这一消息后，派左大将、都尉率领四万骑兵分别驻扎在东部，防备呼韩邪单于的进攻，自己亲自率领四万骑兵向西攻打车犁单于。车犁单于战败，向西北方向逃去，屠耆单于带兵转向西南，留守在闟敦。
汉宣帝五凤二年（前56年），秋季八月，匈奴呼韩邪单于派他的弟弟右谷蠡王等人向西袭击屠耆单于，杀掠士兵一万多人。屠耆单于得到消息后，便亲自率领六万骑兵袭击呼韩邪单于，结果战败，自杀，车犁单于也向东去投降呼韩邪单于，五单于争立一事，一呼韩邪单于再次成为霸主终结。