上文说到，郅支单于率领匈奴一部西迁西域，在西域破乌孙，杀康居国王女儿，一时间称霸西域，又派遣使者到阖苏王国、大宛王国，责令每年向他进贡，两国都不敢不给，并且傲慢侮辱汉朝，这引起了西域都护、骑都尉北地郡人甘延寿与副校尉山阳郡人陈汤的强烈不满，遂有灭国之意。
陈汤、甘延寿谋灭郅支
陈汤为人沉稳勇敢，深谋远虑，擅长策略，喜欢建立奇特的功勋，他和甘延寿谋划说：“夷狄畏惧顺服强大的政权，这是他们的天性。西域各国本属匈奴，如今郅支单于威名远扬，不断侵扰欺凌乌孙和大宛，常常给康居国出谋划策，打算降服乌孙、大宛。如果匈奴降服了这两个国家，数年之后，西域各国都陷入危险之中。况且郅支单于性情剽悍，喜好战争，多次取胜，如果一直让他发展下去，必然会成为西域的祸患。虽然他所在地方十分偏远，蛮夷也没有坚固的城池与强劲的弓箭来防守。如果我们征发屯田的官兵前往，驱使乌孙王国的军队，直接打到郅支单于的城下，他一定是想逃亡而又无处可逃，想固守又不能自保，这是千载难逢的功业，可一朝而成。”
甘延寿认为有道理，准备上奏朝廷请求获准。陈汤说：“如果上奏，皇上一定会与公卿们商议，远大的策略不会被平庸的官僚所理解，肯定不会同意我们这么做。”
甘延寿犹豫不决，恰好甘延寿因病长卧在床，陈汤则独自行动，假传圣旨，征集西域各国的兵力和车师戊己校尉的屯田官兵。甘延寿听到这一消息，惊慌而起，打算制止，陈汤大怒，手按剑柄叱责甘延寿说：“大军已经聚集在一起，你这小子想要阻止大军吗？”甘延寿只好顺从，将军队部署列好，总共有汉朝和西域胡兵共计四万多人，甘延寿与陈汤同时上疏弹劾自己假传圣旨调动军队的罪行，陈述调动军队的理由。
大军压境
奏章发出的当天，二人便率军出发，将士兵分为六部：三部从南道越过葱岭，穿过大宛王国；另外三部由都护甘延寿自己率领，从温宿国出发，经北道进入赤谷城，穿过乌孙王国，进入康居国的边界，到达阗池西部地区。
这时，康居国的副王抱阗率领数千骑兵侵扰赤谷城以东地区，杀害掠走乌孙大昆弥的部众一千多人，抢走特别多的牲畜，然后尾随于汉军的后面，盗走汉军的大批辎重。陈汤指挥西域兵去迎击，杀死四百六十人，夺回被掳掠的乌孙民众四百七十人，交还给大昆弥，夺回的马、牛、羊，则留下来军队食用，还捕获抱阗的部下贵族伊奴毒。
进入康居王国的东部边界后，陈汤下令军队不得烧杀抢掠，私下召见康居国的贵族屠墨，告知他汉军的威力与决心，与他饮酒结盟之后，送他回去。汉军直接向单于城挺进，在离单于城约六十里的地方扎寨，俘获康居王国的贵族贝色子男开牟做向导。贝色的儿子是屠墨的舅父，他们都怨恨郅支单于，于是汉朝军队知道了郅支单于的内部情况。第二天，汉军继续前行，在距离单于城三十里处安营。
郅支单于派使节前来询问：“汉军为何到这里？”汉军回应说：“郅支单于曾上书汉朝的天子，说：‘居住环境困苦，愿意归顺强大的汉朝，亲自到长安朝见’，天子哀怜郅支单于，放弃广阔的国土，委屈地居住在康居，所以派都护将军前来迎接单于和妻子儿女。担心惊动单于的左右，所以没敢直接到城下。”
双方使者来往数次之后，甘延寿、陈汤便责怪郅支单于的使者说：“我们为了单于远道而来，然而到了今天，郅支单于还没派出一位名王、贵人前来与都护将军会面，接受事宜，为什么单于疏忽国家的大事，失去主人待客的礼节？我们的士兵远道而来，人马困乏至极，粮草几乎用完，恐怕不等回程就要断绝，请郅支单于和大臣们慎重考虑你们的计策！”
第二天，汉军前进到了郅支城的都赖水上，在距单于城三里处安营布阵。望见单于城上竖立着五色旗帜，数百名匈奴兵身被铠甲在城楼上守备；从城中冲出百余名骑兵往返奔驰于城下，百余名步兵在城门两侧排成鱼鳞阵，进行战斗演习。
城上的匈奴兵向汉军呼喊：“来打呀！”有百余名骑兵冲向汉军营地，发现汉营的强弩都拉满，弓弩指向他们，骑兵便立即撤退。汉军出动弓箭手射击城门外匈奴的骑兵、步兵，他们都立即退入城内。
甘延寿和陈汤下令说：“听到鼓声后都要逼近城下，四面包围城池，站好自己的位置，挖掘壕沟，堵塞门户，盾牌在前，戟弩在后，仰射城楼上的守军。”攻击开始，城楼上的匈奴守军下楼撤退逃走。土城外还有两层木制城墙，匈奴兵从木城中向外射击，许多汉军被杀伤。汉军从木城外纵火烧城。夜间，数百名匈奴骑兵欲冲出包围，汉军迎面射击，匈奴兵全部被歼灭。
击杀郅支
当初，郅支单于听说汉朝军队来了，便打算逃走，但担心康居王会因此怨恨自己，充当汉朝的内应，又听说乌孙及西域各国都派出了军队，自认为无处逃亡。所以郅支单于离开单于城后，又返回城里，说：“不如坚守。汉朝军队远程而来，不可能持久攻城。”
郅支单于披甲登上城楼，他的阏氏和夫人共数十人也都拉开弓箭，向城外的汉军射击。城外的汉军有人射中了郅支单于的鼻子，其夫人也多有被射杀的，郅支单于便从城楼上退下来。过了半夜，木城被攻破，木城中的匈奴兵退到土城，登上城楼呼喊。此时，康居王国的一万多骑兵前来救援郅支单于，分散到十多处，从四面包围了木城，与城上的匈奴兵相呼应。夜里，多次冲击汉军兵营，但未能得逞，便退却了。
快要天明时，四面燃起大火，汉军将士欢喜振奋，大声呼喊着向前进攻，钲鼓之声惊天动地。康居的军队退却，汉朝军队举着盾牌从四面冲进土城中。
郅支单于带着匈奴男女一百多人逃入王宫，汉朝军队纵火焚烧王宫，官兵争先冲进去，郅支单于身受重伤而死，军候假丞杜勋砍下郅支单于的人头。汉朝军队在王宫中搜出汉使符节两副和谷吉等人带来的书信，所有俘获的财物，都归个人所有。一共斩杀阏氏、太子、名王以下一千五百一十八人，生擒一百四十五人，投降的一千多人，把他们分给西域各国所派来参战的十五个国王。
明犯强汉者 虽远必诛
汉元帝建昭四年（前35年），春季，正月，郅支单于的人头被送到京师长安。
甘延寿、陈汤上疏说：“臣等曾听说天下的大义当是实现统一，从前有唐尧、虞舜，现在有强大的汉朝。匈奴呼韩邪单于已经归顺，成为大汉北方的藩属，唯独郅支单于叛逆，没有服罪。他逃到大夏王国以西，以为强大的汉朝也无法使他臣服。郅支单于对待百姓残忍狠毒，大恶通天。将义兵，行天诛，赖陛下神灵，阴阳并应，天气精明，陷陈克敌，斩郅支首及名王以下。宜县头槀街蛮夷邸间，以示万里，明犯强汉者，虽远必诛。”
丞相匡衡等认为：“现正是春季掩埋尸体之时，不应悬挂郅支单于的头颅示众。”汉元帝下诏悬挂十天，将其掩埋。依然祭告郊外的宗庙，大赦天下。朝廷的文武百官向汉元帝祝贺，设置酒宴进行庆祝。