犧盟會是在抗日高潮中產生的。

1935年12月25日，中共中央政治局會議通過了《關于目前政治形勢與黨的任務決議》，毛主席并在12月27日發表了《論反對日本帝國主義的策略》一文，批判了以王明為代表的“左”傾關門主義錯誤，提出抗日民族統一戰線的政策，把全國抗日救亡運動推向高潮。為了避免大規模的內戰，紅軍抗日先鋒軍經過3個多月的東征，主動回師陜北。1936年5月5日，紅軍發表了要求南京政府停戰議和一致抗日的通電。這個通電振奮了全國民心，伸張了民族正義，在統洽階級內部也引起了極大震動。尤其是對閻錫山來說震動更大。

1936年5月紅軍回師陜北后，由閻錫山請來的蔣介石10個師卻賴在山西不走，想借“剿共”之名把閻錫山吃掉。這對閻錫山來說，已成了他當時的最大威脅。他曾說：“我不亡于共，也要亡于蔣了。”

當時，擺在閻錫山面前的有三條路可以選擇：一條是繼續“聯蔣剿共”，一條是“親日反共”，一條是響應共產黨的號召“聯共抗日”。究竟哪一條路對他有利呢？經他再三考慮，還是從他的“存在就是真理”這一哲學原理出發，1936年選定了“聯共抗日”這一條路。隱蔽在閻錫山政府機關和各社會團體中的共產黨員和進步人士杜任之等人，便在1936年下半年發出組織“抗日救國同盟會”的號召。后經閻錫山審定改為“犧牲救國同盟會”，并指定由梁化之召集杜任之、劉岱峰、宋劭文、戎子和、牛佩琮、張文昂、張雋軒、劉玉衡等人正式發起，在九·一八5周年紀念日那天，正式宣布成立。

當時，太原一方面存在著日本領事館，掛著日本的國旗，日本特務機關和閻錫山還明來暗去地勾搭。另一方面又允許成立“犧盟會”這樣的抗日組織，不過不讓提“抗日”，而只能提“抗敵”。

犧盟會從總部到各級領導人中絕大多數是共產黨員。就是在犧盟會領導下的各種組織中，共產黨員也很多。這一點，閻錫山心里是清楚的。他自認為憑他多半生的政治經驗，是有辦法來對付這些人的。但是在閻錫山上層集團中的舊軍政人員，幾乎都是反對犧盟會的。在閻錫山面前講了許多犧盟會的壞話，甚至還在閻錫山面前造謠說什么“山西國民師范掛起了紅旗”。意思是說犧盟會都是共產黨。我記憶較深的一 次是閻錫山從太和嶺口退卻下來以后，有一天半夜里，突然把我們幾個犧盟會的領導人找去說：“現在我要革命了。日本人馬上就要進攻太原了。我庫里還有一些槍枝，發1萬枝給你們犧盟會。”閻錫山要發槍給犧盟會的消息一傳出去，就引起了一些軍閥、日軍政人員的竭力反對。結果減了一半，只給了5000枝。5000枝也好。我們除發給一些縣區犧盟會游擊隊以外，太原犧盟會還留了一些搞訓練用。

犧盟會從總部到各個委員會以及各中心區和縣，可以說共產黨和左派勢力是掌握實權的，但是也夾雜著一些閻錫山的舊勢力。在犧盟會內部，尤其是在剛成立的時候，斗爭還是很復雜的。1937年太原撤退以前，就聽到有一股風言風語，說什么“犧盟會是薄一波的。”這在當時是有一定的分裂作用和破壞性的。為了及時打擊壞人從中離間，由薄一波同志主持在總部整整辯論了一上午。他曾在會上說，犧盟會是犧盟會的，怎么能說成是我的？來犧盟會工作的人大都是由別人介紹來的，又不是我委派的。類似這樣的明爭暗斗還不少。但占絕對優勢的，還是以薄一波為首的一批嚴格遵守抗日統一 戰線原則的共產黨員。