土地革命战争时期,伊克昭盟地区开展兵运和组建革命武装的工作，先后由中共陕北特委、中共蒙古工委、中共少数民族工委等领导。

1930年七八月间，中共中央决定将中共陕北特委活动地区划为军事暴动区，归中共中央北方局领导。伊克昭盟乌审旗党的工作负责人曹动之遵照中共陕北特委和榆林县委指示,多次打入国民党部队和地方民团开展工作。

1930年，曹动之打入国民党驻宁条梁高世雄骑兵团，秘密策动起义，被发觉后安全撤离。1934 年，又针对龙州民团团总樊应乔讲迷信的特点，利用“红枪会”包围樊应乔所在的寨子，准备迫使民团接受改编，冲突中樊应乔被打死，改编民团未能成功。

此前，在党的领导下，曹动之曾于1928年春在乌审旗拉起一支伊克昭盟最早的游击队。游击队最初仅有十多个人、两杆步枪，活动在西沟、清河沟、毛乌素、巴图湾一带，宣传党的革命主张，领导群众均富济贫。到1930年，曹动之游击队活动范围已延伸到大小石砭、乌拉尔林等地。

1934年冬，党组织在靖边南山组建蒙汉骑兵游击支队，曹动之任队长，陕北红军干部吴亚雄任政委，部队番号为中共陕北特委领导的二十七支红军支队中的第二十二支队。蒙汉骑兵游击支队转战于陕北和伊克昭盟交界的大小石砭、乌拉尔林、城川、白泥井、巴图湾、纳林河掌高图、海则滩、石湾、青杨岔、镇靖和盐池、甘泉、安塞一带。在红军攻克靖边、解放杜新庄和黑峰子等一系列战斗中,蒙汉骑兵游击支队指战员英勇善战，连战皆捷。

1935年5月4日，红二十六军第四十二师一部和红二十七军第八十四师主力在王家湾会师，成立了刘志丹任总指挥的总指挥部,蒙汉骑兵游击支队归总指挥部统一指挥。

根据中共陕北特委决定，红二十六军骑兵团在政委高锦纯和参谋长刘约三率领下，于1935年初进入乌审旗和鄂托克旗，消灭了马鸿逵残部，积极发动群众，组建起一支骑兵游击队，称蒙古游击队，由红二十六军骑兵团和靖边县委领导，吴亚雄任队长。蒙古游击队成立以后，配合骑兵团转战于陕北和伊克昭盟南部，屡建战功。1936年初，红二十六军骑兵团派齐廷珍和杨勤生到蒙古游击队任队长和政委。

蒙古游击队配合红二十六军骑兵团行动的同时，还护送往来干部深入当地群众，接近蒙古王公，宣传党的政策，扩大红军的影响，培养民族干部，使队伍不断发展壮大。1936年6月，蒙古游击队配合红军主力部队解放了宁夏盐池和陕北定边以后，奉命驻守盐池，从此活动中心转到盐池和鄂托克旗，改由中共蒙古工委领导。

1937年6月，中共少数民族工委决定将蒙汉骑兵游击支队和蒙古游击队合并，名称改为蒙汉游击队。