元朔二年 (公元前 127 年)，漢武帝派遣衛青等率軍成功收復河南地 (河套地區)，解除了匈奴對京師長安的威脅。漢朝隨即設置朔方、五原二郡，並開始修繕長城以鞏固北方邊防。不過，東北邊境匈奴侵擾仍然持續，從「漢亦棄上谷之什辟縣造陽地以予胡」(見《史記・匈奴列傳》)，武帝在東北明顯採取妥協退讓，重西輕東是當時對匈奴作戰一大特色。
上谷郡位於今天河北懷來縣一帶，原為戰國時燕國領土，根據錢穆的觀察，武帝將軍事重心移向西北，有對國都長安及匈奴王庭所在地的考慮在背後。他說：
漢、匈奴東西橫恆，匈奴單于庭偏在東，漢都長安偏在西，故匈奴利於東侵，漢便於西出。漢既城朔方，而同時棄上谷之造陽地予胡，此為漢廷決計改取攻勢后之策略。此後匈奴西部遂大受威脅。（《國史大綱》上冊）
喪失河南地對匈奴構成重大傷害，觀乎匈奴緊接的反擊，全不出代郡 (今河北省蔚縣一帶)、雁門 (今山西省北部)、定襄 (今山西省忻州市)、上郡 (今陝西省榆林市)。《史記・衛將軍驃騎列傳》：
其明年，匈奴入殺代郡太守友，入略鴈門千餘人。其明年，匈奴大入代、定襄、上郡，殺略漢數千人。
《史記・匈奴列傳》：
其夏，匈奴數萬騎入殺代郡太守恭友，略千餘人。其秋，匈奴又入鴈門，殺略千餘人。其明年，匈奴又復復入代郡、定襄、上郡，各三萬騎，殺略數千人。
攻勢無法觸及西北，尤其不幸是，匈奴國內發生王位繼承紛爭，軍臣單于 (冒頓單于之孫) 死後，其弟發動軍事政變奪取了合法繼承人、軍臣單于之子於單的王位。於單向漢朝投降，被封侯，不久死去。《史記・匈奴列傳》：
其后冬，匈奴軍臣單于死。軍臣單于弟左谷蠡王伊稚斜自立為單于，攻破軍臣單于太子於單。於單亡降漢，漢封於單為涉安侯，數月而死。
伊稚斜單于繼位，卻對漢武帝的主動進擊一時來不及反應。右賢王對漢軍用聲東擊西的手段奪得河南地耿耿於懷，遂多次出兵入河南地，侵擾朔方郡。這自然對漢朝又是一次嚴峻的考驗。《史記・匈奴列傳》：
匈奴右賢王怨漢奪之河南地而筑朔方，數為寇，盜邊，及入河南，侵擾朔方，殺略吏民其眾。
按照匈奴官制，置二十四長。所謂「二十四長」，即自單于以下二十四位王公大臣，皆為世襲官員，而且手握軍權，統率軍隊。二十四長各有分地，自置官屬，其下置千長、百長、什長、裨小王、相國、都尉、當戶、且渠。右賢王與左賢王並列，控制匈奴帝國的西部地區 (上郡以西)，為二十四長之一。
如上所述，漢軍奪河南地後，匈奴勢力不能越出上郡西向，右賢王既得利益首當其衝受到損害，其反應於是更加激烈。
奈何河南地確實有軍事地理上的戰略優勢，漢軍可借此作為跳板，輕易發動軍事行動，將騎兵團向西北方向推進，深入匈奴勢力範圍。復添以嗜酒輕敵等陋習，右賢王竟被衛青擊敗，時為元朔五年 (公元前 124 年) 春天。《史記・匈奴列傳》：
其明年春，漢以衛青為大將軍，將六將軍，十餘萬人，出朔方、高闕擊胡。右賢王以為漢兵不能至，飲酒醉，漢兵出塞六七百里，夜圍右賢王。右賢王大驚，脫身逃走，諸精騎往往隨后去。漢得右賢王眾男女萬五千人，裨小王十餘人。
以表列出，元朔二年至五年漢匈大事如下：
| 年份 | 事件 |
| 元朔二年 | 漢奪河南地，築朔方、五原二郡 |
| 元朔二年冬天 | 軍臣單于死，於單降漢，伊稚斜自立為單于 |
| 元朔三年夏天 | 匈奴軍隊殺代郡太守劫掠 |
| 元朔三年秋天 | 匈奴入鴈門殺掠 |
| 元朔四年 | 入代郡、定襄、上郡；右賢王侵擾朔方 |
| 元朔五年春天 | 衛青大破右賢王 |
據《史記・衛將軍驃騎列傳》，衛青派系急速壯大，在擊敗右賢王一役後。
其明年，元朔之五年春，漢令車騎將軍青將三萬騎，出高闕；衛尉蘇建為游擊將軍，左內史李沮為彊弩將軍，太仆公孫賀為騎將軍，代相李蔡為輕車將軍，皆領屬車騎將軍，俱出朔方；大行李息、岸頭侯張次公為將軍，出右北平：咸擊匈奴。匈奴右賢王當衛青等兵，以為漢兵不能至此，飲醉。漢兵夜至，圍右賢王，右賢王驚，夜逃，獨與其愛妾一人壯騎數百馳，潰圍北去。漢輕騎校尉郭成等逐數百里，不及，得右賢裨王十餘人，眾男女萬五千餘人，畜數千百萬，於是引兵而還。至塞，天子使使者持大將軍印，即軍中拜車騎將軍青為大將軍，諸將皆以兵屬大將軍，大將軍立號而歸。天子曰：「大將軍青躬率戎士，師大捷，獲匈奴王十有餘人，益封青六千戶。」而封青子伉為宜春侯，青子不疑為陰安侯，青子登為發干侯。青固謝曰：「臣幸得待罪行閒，賴陛下神靈，軍大捷，皆諸校尉力戰之功也。陛下幸已益封臣青。臣青子在繦緥中，未有勤勞，上幸列地封為三侯，非臣待罪行閒所以勸士力戰之意也。伉等三人何敢受封！」天子曰：「我非忘諸校尉功也，今固且圖之。」乃詔御史曰：「護軍都尉公孫敖三從大將軍擊匈奴，常護軍，傅校獲王，以千五百戶封敖為合騎侯。都尉韓說從大將軍出窳渾，至匈奴右賢王庭，為麾下搏戰獲王，以千三百戶封說為龍頟侯。騎將軍公孫賀從大將軍獲王，以千三百戶封賀為南窌侯。輕車將軍李蔡再從大將軍獲王，以千六百戶封蔡為樂安侯。校尉李朔，校尉趙不虞，校尉公孫戎奴，各三從大將軍獲王，以千三百戶封朔為涉軹侯，以千三百戶封不虞為隨成侯，以千三百戶封戎奴為從平侯。將軍李沮、李息及校尉豆如意有功，賜爵關內侯，食邑各三百戶。」
值得留意是，郭成率輕騎追逐北走的右賢王數百里，衛青敏銳地派出極具機動性的輕騎兵，往大漠深處對潰逃的殘敵進行奔襲，這種不給敵人喘息機會的連續打擊手段，充分體現他高超的戰略遠見，自此奠定往後長途奔襲的指揮風格。
