阎锡山对部下的控制力之强,堪称新军阀之冠,绝不亚于蒋介石对黄埔系将领的精神控制。从解放战争全面爆发前试图抢占上党开始,阎锡山每战必损兵折将,手下将领除上党战役中彭毓斌、晋中战役中日籍元泉福等少数自杀外,从晋绥军草创开始便跟随阎锡山的杨澄源、赵承绶、梁培璜等将领先后被俘。但在1949年太原解放时,晋绥军系统的“文臣武将”梁化之、孙楚、王靖国、赵世玲、娄福生、吴绍之等人还在城内坚持反共。而杨爱源、贾景德等人则跟随阎锡山逃往台湾。
从出身来看,阎锡山晋绥军系统的大人物多出身山西,以五台和定襄等地居多。前期多有日本留学背景,军人中以保定军校毕业生为主。但中后期大批北京大学、山西大学甚至留学英美的人才也被阎锡山收入麾下。虽然外人多批评阎锡山“土”,但事实上他自己也是在东京振武学校和日本陆军士官学校喝过洋墨水的留洋军人,而且阎锡山军政班底的普遍水平在学历方面明显比桂系高出一截,其他诸如川系和滇系以及西北五马更是难望其项背。例如阎锡山前期和中期最重要的政治智囊赵戴文是东京宏文师范毕业,1946年被解放军俘虏的杨澄源是日本陆军士官学校的毕业生。
另外,阎锡山在掌握山西之后,努力建设山西大学,为自己培养了一大批忠诚的“学生军”,这其中代表人物是山西军工后期的领导人物彭士弘和在太原战役中反共到底的梁化之。彭士弘1920年就读于山西大学,1925年赴日本早稻田大学学习化学。1931年,彭士弘为了实现实业报国的理想,放弃上海的兴化皮革厂,转而选择回山西创办近代工业。有了彭士弘等一批见过世面的人才和阎锡山的全力支持,山西这个在清末洋务运动中寂寂无闻的省份,到抗战爆发前已经掌握了全国机械加工工人的四成。