温玉山1907年出生于北京德胜门外一个农户人家，距城区十几里，父亲靠种菜卖菜维持一家人的生活，温玉山有一个姐姐。

父亲为了让后代兴旺发达，给儿正式起名温玉山，期望日后过上好光景。父亲十分注重对儿子的培养，自幼让他受到良好的家教，8岁送他到私塾识字，10岁送他读小学，就读小学期间，震惊中外的反帝反封建的五四运动爆发，温玉山目睹了北京青年学生的爱国运动，使他懂得了许多道理，思想深受启迪，立志长大后报效国家。14岁小学毕业，那年家里突发变故，彻底改变了他的人生道路。

民国时期的北京，政局动荡、天灾人祸、疫病多发，温玉山的父母体弱染病，相继离世，丢下两孩子。在家族人撮合下，17岁的姐姐寻了婆家，让她有条活路。温玉山孤苦伶仃一个人，很早就学会独立。天无绝人之路，温玉山无助的时候，比他大3岁的同村人郭进财，走进了他的生活圈子。郭进财平日做买卖，有了一些积蓄。他领是温玉山，倒贩粮食、皮毛、牲口、药材，走南闯北。就这样，温玉山离开祖辈生活的故乡，开始闯荡江湖。

上个世纪20年代的民国，社会大动荡大转变，民不聊生，盗匪四起，军阀割据，争地火拼，再加上连年的自然灾荒，做生意风险性高，有时血本无归。温玉山被迫转行，先后拉洋车，干苦力，在饥寒交迫中苦苦挣扎，旧中国的穷人，想找条活路比登天还难。好在天无绝人之路，温玉山和郭进财讨饭走到了陕北靖边，正逢柠条梁高世雄招兵，一同入伍，从一个普通士兵干起，白手起家，开始了他的戎马生涯。

1931年，共产党员曹动之打入高世雄部专门做策反工作。高部中有曹动之的好友柏子强，任高部团副，推荐曹动之当上高部二连副连长。温玉山当时已任排长，经常和曹动之唠嗑，温玉山对高世雄的管理方法看不惯，常叹气说：“好男不当兵，家里有口饭吃，谁来作这个孽，今天揭背花，明天割耳朵。不把脑袋割下来，就是烧高香了。”  

1932年1月，在曹动之影响下，温玉山和一些中坚分子响应兵变，从虎口里解放出来很多当兵的穷人，他们弃暗投明，都自愿留下参加了赤卫队，兵变后的温玉山加入了陕北红军，走上了革命的道路，这样彻底改变了他的人生道路。在革命队伍中，温玉山不断地成长、进步，懂得了许多革命的道理，在曹动之介绍下，温玉山加入了共产党，成为陕蒙早期的党员之一，跟随曹动之转战晋陕蒙宁。

1934年8月，陕北清河沟驻地的上级红军，将赤卫队改编为陕北红军游击队第22支队，任命温玉山为排长，22支队受陕北特委领导，活动在陕蒙横山、三边、乌审旗、鄂旗城川和三段地蒙汉杂居地带。在陕北特委的领导下，温玉山带队收拾了横行在陕蒙宁三地交界地带抢钱、抢粮、抢畜、抓壮丁的几股惯匪，打富济贫，深得民心。

1935年8月，陕北红军游击队22支队配合刘志丹率领的红2、3团攻打横山县城中龟缩的段宝珊部，攻城未克。9月解放了杜新庄，10月打下了黑峰子，受到上级党组织的通令表扬，称他们是“英勇善战，可歌可泣的人民骑兵。”

10月，中央红军长征胜利到达陕北。12月召开了“瓦窑堡”会议，毛泽东代表中央人民政府发表了《对内蒙古人民宣言》，号召内蒙古人民不论是王公贵族或平民百姓，在抗日的旗帜下团结起来，反对共同的敌人日本帝国主义和。《宣言》像一盏明灯，为党在内蒙古鄂尔多斯地区的蒙古工作指明了方向，对抗日救亡斗争起到重大的推动作用。党中央即派出毛泽民、高岗、赵通儒、张德生、曹动之、曹布诚、徐子猷、白汉臣、田万生等一批干部北上伊盟，开辟伊盟的革命工作。

 经中央批准，陕北特委将红22支队正式改编成“蒙汉骑兵游击队”，归属2路骑兵总指挥部领导。曹动之任队长，吴亚雄任政委，温玉山任二连排长。这支部队近百人，装备齐全，建制完善，驰骋在长城内外及鄂尔多斯草原，为开创伊盟地区的革命立下赫赫战功。

1935至1936年，曹动之的游击队，急需扩充实力，当时地下党的负责人郝登鸿，是温玉山的结拜兄弟，千方百计在乌审旗巴图湾、沙尔利格、纳林河一带，动员了一批青壮年参军。在蒙汉骑兵游击队、兄弟部队和地方党组织的开创性工作下，乌审旗河南、鄂托克旗大庙至城川一带逐渐变为苏区，为红军西征的胜利做出了重要的贡献。军阀井岳秀部邬板定的一个排，由安边去榆林，因怕被红军消灭，改走蒙地，沿途烧杀抢掠，罪大恶极。游击队中队长齐廷珍，指导员杨勤生带领两中队实施迂回包抄，温玉山利用夜暮掩护，机智灵活地干掉了敌人岗哨，冲进敌驻地。战斗不到1小时就获得胜利，战果颇丰，毙敌十几人，俘虏二十多人，无一漏网。这次歼灭战，提高了红军在蒙古族聚集地区的威信。

蒙汉骑兵游击队还配合2路骑兵团参加了张家畔战斗。战斗中，温玉山机智勇敢，亲自击毙了增援的反动民团头目樊幼樵，战后上级提升他为副连长，同时奖励了一支驳壳枪。

1936年，中共蒙古工作委员会负责人高岗带领红军骑兵游击队解放了三段地。10月，三段地革命根据地鄂托克旗工委，即三段地工委成立，下辖三段地、马场井、二道川、葫芦素淖、东壕5个地方，并成立了5个党支部，发展了党员30多名。工委书记金生华，副书记曹布诚，温玉山兼警卫排长。从此，党在鄂托克地区开始了有组织有计划地领导蒙古族人民的革命斗争。

1937年秋，蒙汉骑兵游击队又配合主力红军在盐池关地滩﹑拱岔梁袭击了范玉山﹑张庭芝匪部，两次催毁敌人一半人马，缴获了大量的枪支和马匹。

1938年，蒙汉骑兵游击队和2路骑兵团在鄂旗三段地合编为红26军骑兵团，归三边地委领导。团长孔令甫，政委马志友，政治部主任于学光，温玉山任警卫连长。5月，温玉山跟随绥蒙工委进驻挑力民地区，宣传党的民族政策，建立动委会，发展抗日的人民武装力量。

1940年4至5月，伊盟工委为扩充武装，派曹布诚、李占胜、温玉山等5人，随带军衣20多套，小米一车，以骑兵排到准旗驻防为名，实则秘密招兵。到了准旗后，温玉山和李占胜带了2名新兵先行返回乌素加汉，做好了接应从准旗头道柳招募的几十名新兵的后续工作，圆满完成了伊盟工委交办的征兵任务。

抗战期间，温玉山多次奉伊盟工委、三边地委、曹动之、曹布诚等同志的命令，帮助宣传抗日，动员群众捐款捐物，组建游击队，传送鸡毛信，给八路军输送物资；协调曹动之担负沙王进入红区的安保、接待等工作；协助奇金山、王悦丰等策动西乌部队的起义等等。

曹动之先后担任中共乌审旗工委书记兼三边骑兵营长、中共伊盟军事部长等职，多年从事统战和建立民族革命武装政权的活动。温玉山则长期负责曹动之的保卫和通讯工作，曾经几次帮助曹动之化险为夷，是曹动之最器重的部将之一。

多年的革命生涯，温玉山熟使双枪，百步穿杨，驰骋疆场，所向披靡，敌人闻风丧胆，他在晋陕蒙宁一带很有名气。

1943年中秋，乌审工委书记兼三边骑兵大队长曹动之率领温玉山等40多位干部战士，从巴图湾出发到纳林河打游击，夜晚宿营昌汗圪台韩家羊场。第二天黎明，突然一阵密集的枪声打破了夜的宁静。原来是国民党驻伊盟警备司令部司令东乌匪首奇玉山捕捉到了曹动之的行踪，连夜集结起两股骑兵大队，长途奔袭，包围了我军驻地。在陷入包围的险恶情况下，曹动之指挥部队与敌人进行了一场敌众我寡殊死一搏的战斗,匪徒们依仗人多势众，步步进逼，战斗打得极为残酷，伤亡不断增加，包围圈越缩越小。危急存亡之际，温玉山早已将生死置之度外，为了党和人民的利益，他把多年的患难兄长曹动之推出院墙，扶上战马，猛抽一鞭。然后视死如归，独自一人在院内持双枪拼尽全力阻敌，造成敌匪很大杀伤。曹动之乘乱冲了出去，温玉山却寡不敌众，东乌匪兵冲了上来，温玉山从容地倒在了战友的身旁，为革命流尽了最后一滴血，牺牲时年仅36岁。

温玉山在土地革命时期、抗日战争期间，历任班长、排长、副连长、连长等职。他短暂的一生，吃尽人间苦，历经万般险，感人至深；他兢兢业业，呕心沥血，甘当无名英雄 ，为党做了大量卓有成效的工作，直到献出自己宝贵的生命。

忠魂不泯一腔热血洒鄂尔多斯大地，大义凛然壮士英名留晋陕蒙宁长空！

温玉山同志的高大形象和历史功绩永远铭刻在鄂尔多斯蒙汉各族人民的心目里。温玉山同志永垂不朽！