经过一年时间的休整，汉匈双方都恢复了一些元气，又开始了在边境上发生小规模的冲突，这短短的一年平静期孕育了以后你死我活的决战。这以后的几次战斗，汉朝军队占有了一定的优势，匈奴势力一直处于被动挨打的境地。
在汉武帝正为处理国内淮南王谋反事件大开杀戒的时候，匈奴人的屠刀也伸到了汉朝上谷郡内，又使数百名汉人惨死在入侵者的屠刀之下。汉武帝却无心北顾，只能暂时忍下这口气。
等到国内整肃完毕后，汉武帝又开始了对匈奴的报复性打击，由于中部地区的匈奴人龟缩在大漠以北，所以汉军对此无可奈何。汉武帝只好决定暂时不再把匈奴单于统辖的中部地区作为打击对象，而把战略目标转向了河西地区。
河西地区即今甘肃省境内的大部分地方，因在黄河南北河道的西部而得名。汉武帝时期，河西地区由匈奴的浑邪王和休屠王分别领辖。
元狩二年（公元前121年），汉武帝三次下令对匈奴用兵，进行远距离的追歼和迎降，用兵的重点仍在西部。
这一年，霍去病被汉武帝擢升为骠骑将军。他在乍暖还寒的春季，奉汉武帝的命令，带领一万骑兵从陇西出塞。
霍去病一路所向披靡，横穿匈奴臣属的五个小王国如入无人之境，转战六天，越过焉支山（祁连山一峰，在今甘肃境内），又前进了一千余里，斩杀匈奴的折兰王、卢侯王，俘虏浑邪王的王子、相国和都尉，捕获斩杀匈奴共八千九百余人。霍去病还把休屠王用来祭祀上天的金人神像也夺了过来。陇西匈奴受到了沉重打击。
汉武帝闻讯大喜，下诏加封霍去病食邑两千两百户，并在云阳甘泉山下修祠，来放置休屠王的祭天金人，以夸耀汉朝所取得的赫赫战功。
转眼夏季又来到了，汉武帝再次下令对匈奴汗国发动攻击。他派骠骑将军霍去病和合骑侯公孙敖，率领数万骑兵从北地（甘肃省宁县）出塞，卫尉张骞与郎中令李广从右北平（河北省平泉县）出塞，与霍去病所部遥相呼应。两军领诏，分道向北挺进。
李广和张骞从东路进兵主要是追歼进入代郡和雁门两郡抢掠之后撤退的匈奴左贤王的部队。汉武帝调给他们一万四千人。李广带领四千骑兵作为开路先锋，张骞率领其余的人马作为后援。李广率领四千骑兵向北搜索前进。张骞在后面慢行，两者之间相距数百里路程。李广的冒进，使他的处境十分危险。
左贤王得知李广仅仅领四千人马冒进，就集合了手下全部的人马共四万人埋伏在李广前进的路上。李广只顾挥师猛进，一头撞入了左贤王的包围圈。
四万匈奴骑兵将四千多人的汉军团团包围，李广部下军心震恐，面对十倍于己的匈奴军队，束手无策。
李广心中虽有些紧张，但脸上不露声色。他叫来自己的小儿子李敢，让他带上几十个人先去探探匈奴的虚实。
李敢挑选了一批精壮的士兵，他们装束停当，发起一小股旋风，如同猛虎下山，杀开一条血路，冲破匈奴的防线，突出了匈奴的包围圈。李敢提剑一挥，手下人又一起往回杀，再次冲破了匈奴的包围，回到汉军阵中。李敢喘着粗气对他父亲李广说：“别看匈奴人多，但并没有多大战斗力，我们用不着担心。”
听了这话，李广稍稍地放下了心，手下的汉兵们也都壮起胆子准备战斗。李广把汉军们布置成一个圆形阵式，每个人都面朝外而立，这样就可以抵御四面八方来的敌兵。匈奴兵一看无处下手，也不敢靠近，就在远处用弓箭进攻，万箭齐发，密如骤雨。汉军尽管使用了挡箭牌，但也死伤过半。李广令手下还击，双方箭矢互飞，匈奴也有大量伤亡，但不幸的是汉军的箭矢即将告罄。
李广见形势紧急，下令手下持箭上弦，全力拉满，但不要发射。然后，李广令手下人拿来他特制的称为“大黄”的连弩弓，专门瞄准匈奴将领，射杀数人。匈奴兵见势不妙，纷纷后退。他们在周围围成圈子，既不敢冲过来，也不甘心离开，一心想用长时间的围困使得汉军不战自溃，然后便可以乘势掩杀，夺取最后的胜利。
李广令手下士兵弓箭不离手，分批休息，与匈奴人僵持。
这时候，天渐黄昏，气温急剧下降，汉兵们个个惊恐，面容失色。只有李广镇定自若，言谈举止与平日无异。他的镇定起到了安稳军心的作用。李广马上又巡视阵地，调整部署，部下也苦苦支撑，这样与匈奴整整对峙了一天一夜。
第二天，匈奴兵又发动了凶猛的攻击，力图致李广部于死地。李广率军苦战支持，又死亡过半，只剩下不到一千人苟延残喘，有些还已经带了伤。而汉军的顽强抵抗也杀伤了大量的匈奴兵。匈奴方面所损折的人数大大的超过了汉军，
浑邪王降汉（2）
正当汉军防线即将崩溃的时候，南部包围圈的匈奴阵势大乱，原来是张骞率领着一万汉军有生力量赶到了。左贤王一看形势不好，马上下令解围撤退。这时李广的军队已经丧失元气，而张骞的部下又刚经过长途跋涉，所以均力不从心，就放弃了对匈奴左贤王部的追歼。汉军遂班师回朝。
汉武帝对于张骞和李广出师不利，做出了处理意见。他认为李广的兵马虽然损失过半，但是匈奴人却付出了更沉重的代价。这样功过相抵消，汉武帝免除了对李广的处罚。张骞本应配合李广的进军，但是行军迟缓，耽误了时间，因而使李广孤军奋战，同时也丧失了追歼左贤王的良机。汉武帝认为应定他为死罪，但是念张骞救李广有功，准许他出钱赎罪。张骞自赎罪为平民。
东部的北进遇到挫折，而西部的进军却是捷报频传。骠骑将军霍去病和合骑侯公孙敖率军分路从陇西出塞。霍去病率部狂飙突进匈奴境内两千余里，与公孙敖所部失去了联系，两支军队无法会合。
在这种困难情况下，霍去病毅然孤军挺进，跨越居延海，穿过小月氏部落，兵锋直抵祁连山下。汉军一路追亡逐北，生擒匈奴的单桓王和酋涂王以及相国和都尉等高级官员。霍去病共斩杀和俘虏匈奴共三万零二百人，其中有五个匈奴王，以及王母、王妻和王子共五十九人，相国、将军、当户、都尉共六十三人。匈奴方面的损失十分惨重。
当时，一些老资格的将军所率领的部队战果都不如霍去病部队。骠骑将军霍去病挑选的部下都是汉军中的精锐，而且霍去病有胆有识，经常率小部骑兵远离大军，深入匈奴腹地寻找战机。似乎上天的格外恩赐，从没有使他遇到过危险，而且每次总会有所斩获。而那些老资格的将军常常不是延误迷路，就是搜索不到匈奴主力空手而归。有的也有胆量，但常因孤军冒进遭到匈奴人主力的合击而土崩瓦解。赵信投降、李广败军都是明证。
汉武帝因为霍去病在祁连山一役中又获大捷，加封他食邑五千户，并对他的部下进行封赏。凡是跟从骠骑将军一直攻打到小月氏的人均拜爵为左庶长。
鹰击司马赵破奴，两次跟从骠骑将军北伐，斩杀匈奴遨濮王，捕获匈奴稽且王，左千骑将王、王母各一人。此外还有匈奴王子以下的贵族四十一人，士兵三千三百三十人。作为骠骑将军先锋时又捕虏匈奴一千四百人。汉武帝封赵破奴为“从骠侯”，从骠就是跟从骠骑将军的意思。校尉高不识跟从骠骑将军捕得匈奴呼于耆王王子以下十一人，捕虏匈奴一千七百六十八人，被封为宜冠侯。校尉仆多也因军功封为辉渠侯。
合骑侯公孙敖因为出师缓慢，没有能与骠骑将军会合上，按军法应当处斩。汉武帝念他立有旧功，准许他自赎死罪，革去官职。
这时候骠骑将军霍去病更得汉武帝的宠信，几乎和他的舅舅大将军卫青平起平坐。汉武帝特地为霍去病盖了一座豪华气派的大宅院，想让霍去病去看看房子。霍去病推辞说：“匈奴未灭，何以家为？”汉武帝不觉得肃然起敬。
卫青和霍去病率军对匈奴连续的沉重打击使得伊稚斜单于恼羞成怒。匈奴的浑邪王和休屠王又新遭惨败，被霍去病杀得人仰马翻，伊稚斜单于更加怒不可遏。他派出使者让浑邪王和休屠王到王庭来一趟。
浑邪王和休屠王打听到伊稚斜单于有诛杀他们的意思，心中大为恐慌。他们这几次战役中损失了数万人马，自知不能被饶恕，就拒绝前往王庭送死。他们又害怕伊稚斜单于前来攻击，就想一起投降汉朝。他们派人在边境上拦阻汉朝人，请他们转告大汉皇帝。当时，大行李息正在黄河岸上筑城防守。浑邪王派来使者，到李息营中转达浑邪王和休屠王的意思。李息认为此事重大，不敢怠慢，立刻用驿车马，把匈奴的使者送到京城长安。
未央宫中，汉武帝听到报告之后，召见了浑邪王的使者。他来回踱步，心中判断浑邪王使者是否说实话，因为他担心匈奴人诈降，而真正目的却在于突击边塞。汉武帝犹豫半晌，又害怕因不予回信而失去一次不战而获的机会。汉武帝最终下定决心，开关塞迎降。随即，他又召来骠骑将军霍去病，吩咐他做一些必要的防备措施，并见机行事。
霍去病受诏率领一万骑兵和两万辆车子到黄河边上迎接休屠王和浑邪王及其各自部众，并让休屠王的使者回到河西地让他们作好南下的准备。
浑邪王一心降汉，接到汉武帝同意归降的消息后，他马上派使者去催休屠王率部下一同进关。休屠王担心汉朝薄待自己，就有些犹豫，推三阻四地打发走了浑邪王的使者。
休屠王不肯动身，使浑邪王骑虎难下。他对部下说：“现箭在弦上，不得不发。这事就由不得他了。”于是，浑邪王带着手下兵马突然对休屠王部发动袭击，杀死了休屠王，抓住了休屠王的太子和全家，收拢了休屠王的部下，一同向东南移动，准�