1942年6月4日,中共中央政治局和中央军委正式决定成立陕甘宁晋绥联防军司令部,贺龙任司令员,副司令员徐向前,政治委员关向应,副政治委员林枫,政治部主任谭政,副主任傅钟、甘泗淇,参谋长张经武。后高岗任副政委、代政委,肖劲光任副司令员,谭政任副政委兼政治部主任。6月8日,联防军司令部正式组成。下辖八路军一二○师、留守兵团、晋西北新军和陕甘宁边区保安部队、炮兵团等。
1944年春,一二九师一部改称新编第四旅。同年8月,冀鲁豫西进支队到达边区,改称教导一旅。同年10月,晋察冀军区一部调入边区,组建教导二旅。这些部队统归联防军司令部所属。
1947年3月16日,中央军委命令陕甘宁和晋绥边区我军组成西北野战军,由彭德怀任司令员兼政委。陕甘宁晋绥联防军司令部工作即告结束。同年7月31日,中央军委决定将晋绥军区再度划归陕甘宁晋绥联防军。1948年会月,正式成立陕甘宁晋绥联防军区。1949年2月,改称西北军区。
陕甘宁晋绥联防军司令部旧址现保存平房12间及土窑洞数百孔。贺龙、徐向前等先后在平房居住过。1986年维修了这12间平房,现由延安中学使用,树立了纪念标志。