1947年，徐向前重返前线，一查家底，正规军不到1个旅，装备很差，凑了5万人后，他却语出惊人：“我们要解放全山西！”

1947年6月，徐向前到晋冀鲁豫军区工作。刘伯承、邓小平率主力南下后，他主持军区工作，能用于山西方向作战的，主要是留下来的第8纵队和地方武装。兵员、装备、训练都需要补课，想一步打到太原，条件根本不成熟。

徐向前没有直接碰太原，而是从晋南打开局面。1947年底，部队协同攻克运城。运城拿下后，晋南战场的态势发生变化，临汾成了下一块必须解决的硬骨头。真正考验这支队伍攻坚能力的战斗，也从这里开始。

1948年3月，临汾战役打响。临汾城防坚固，守军约2.5万人，攻城部队重火器不足。徐向前组织部队采用坑道爆破，避开自己火炮不足的短板。72天后，临汾攻克，歼敌2.4万余人，晋南全境解放。第8纵队第23旅因战功突出，被授予“临汾旅”荣誉称号。

这一仗的价值，不只是拿下一座城。原来以地方武装、新组建部队为重要基础的队伍，经过连续实战，已经开始具备攻坚能力。对徐向前来说，手里的兵没有突然变多，真正发生变化的是部队会打的仗越来越复杂。

1948年6月至7月，晋中战役展开。徐向前指挥约6万余人参战，重点没有放在逐城硬攻，而是想办法把对方野战力量调出来，再切断退路、分割包围。一个多月里，部队歼敌10万余人，解放14座县城。中央军委和毛泽东评价这一战“对整个战局帮助极大”。

晋中一战结束后，山西战场的力量对比明显改变。此前需要考虑怎样站稳脚跟，此时已经能够把主要目标放到太原。这个过程说明，所谓以少胜多，绝不是简单拿少数人和多数人硬碰，而是每打一仗，都要让下一仗比上一仗更有条件。

1948年10月，太原战役进入大规模作战阶段。这座城市防御体系完整，战斗持续到1949年4月，历时6个多月，共歼灭阎锡山部及地方保安团13.5万余人。徐向前前期一直带病组织指挥，后来病情加重。1949年4月，彭德怀奉命接替指挥后续作战，4月24日太原解放。

把运城、临汾、晋中、太原连起来看，就会发现徐向前并没有拿一个大目标去冒险。运城打开晋南局面，临汾解决攻坚难题，晋中大量削弱对方野战力量，最后才具备围攻太原的条件。每一步解决一个现实问题，部队也在一次次实战中完成升级。

权威军史后来总结这段经历时提到，徐向前用一年半左右时间，以约6万地方部队为基础，歼灭山西敌军近30万人。真正值得讨论的，也正在这里：起点弱并不可怕，关键是能不能看清自己缺什么，再用一场场胜仗补上。所谓“解放全山西”，最有分量的从来不是一句话本身，而是这个目标最后被一步一步做成了现实。