根据小河会议精神，为调动胡宗南部队北上，以利太岳纵队南渡出击豫西，8月6日至12日，西北野战军进行了北上围攻榆林城的战役。
　　为了诱调胡军主力北上，中央机关决定由西向东转移。由于胡军企图封锁绥德、米脂，把西野包围歼灭在无定河以西，所以中央机关必须在北上援榆的胡军主力到达绥德以前抢先赶过绥德城，然后继续牵引胡军并寻机歼灭之。在胡军一部的尾随下，中央机关从8月1日开始沿大理河川东下，13日凌晨抢先赶到了绥德城，过了无定河大桥。一过绥德城，中央机关的队伍就向东北方向的葭县地区转移，而刘戡部队的主力很快也就尾随上来了。
　　西野主力于7月28日开始从靖边集结地东移，在绥德分区第四、六团的配合下，经大小理河，然后由横山、米脂、葭县地区分路北上。8月5日，第三纵队首先与榆林城东北神木县境内高家堡的守军交火，8月6日开始围攻榆林城。西野一开始打榆林，邓宝珊立即飞到延安要胡宗南出兵救援，同时急电蒋介石救援。蒋介石深怕丢失榆林影响西北战局，匆忙于8月7日飞抵延安，面谕胡宗南救援榆林，预定于8月15日会师绥德，决心要在榆林、米脂、葭县之间的三角地区围歼西北野战军。胡宗南随即命令正在志丹、安塞地区进行“清剿”的董钊、刘戡率7个旅北上，分两路向绥德、葭县急进，并令整编第三十六师师长钟松率一二三旅和一六五旅组成快速兵团，取捷径经横山县城北上沿长城星夜兼程援救榆林。
　　8月6日到9日，西北野战军第一、二纵队、新四旅、教导旅先后攻占了横山、响水堡等城镇和榆林飞机场、镇北台、无量殿、金刚寺等重要据点，完成了对榆林城的包围。5日至10日，第三纵队攻占了高家堡，歼守军八十六师二五六团1600余人，俘陕北警备司令部少将副司令张子英及二五六团正副团长李含芳、崔日骏等1400余人。12日，胡军快速兵团已进至榆林城西南30里的苏庄子、天鹅海子一带。由于攻取榆林城没有把握，而诱调胡军北上的目的已达到，故西野于12日凌晨断然撤离榆林城，集结到榆林县东南和米脂沙家店以北地区，待机歼敌。