1881年1月21日，法军在经过了一天的休息，正式发动了进攻，山西大战爆发。
法军第二旅首先进行了强攻，法军火炮群开始了猛轰，其中包括十几门重炮。半个小时后，猛烈的炮火将防御阵地几乎犁过了一遍，壕沟前的鹿寨遭受了严重的破坏。
随着鹿寨被轰开，法军的火炮开始调整射距，进行延伸轰击。很快，防御壕沟上烟尘滚滚，许多被炸死的士兵尸体随着泥土一起飞上天空。有被炸断一只手一只脚的，血流满面还在痛苦**的。
但大多数人还是深深的扎在壕沟里，法军的炮火猛烈，这一点所有人都被一再强调过，想要挡住敌人的进攻，有些伤亡是必须承受的。
法军开始了第一波的进攻，贝兰上校指挥着近千人发起了冲锋，排在前面的照例是越南土著营。
越南兵们被强迫着冲在最前头，这些人当中，除了小部分天主教教民外，绝大多数都是雇佣来的农民或者地痞无赖，只是为了赚点钱而已。没想到要充当替死鬼，为法军开路，这让他们既愤恨不平，又非常无奈，因为后面跟着督战的法军宪兵，逃跑是要被处决的。
之前中国军队不断的将一些俘虏的越南兵放回来，这些人到处宣传嗣德帝命令全体越南人一起抗击法国，所有受法国雇佣的都是叛徒，将来是要连累家族的，这也让越南土著部队士气低落。
这些可怜的炮灰，战战噤噤的走到阵地前沿，然后从前面数百米处射来一排密集的子弹，伴随着一片惨叫声，天空中也传来了一阵呼啸，这是中国军队的炮弹，队伍当中立刻炸的飞沙走石。
越南兵们斗志全消，呐喊一声，所有人都向后逃窜，督战的法国宪兵们立刻坚决顶住，不许他们临阵脱逃，愤恨之极越南兵们，实在忍无可忍，纷纷举枪相向，于是一副奇景出现了，法国进攻部队在战场上居然自相残杀了起来。
在这样混乱的情况下，显然进攻是无法继续下去了，贝兰上校不得不下令撤回去。法军第一波进攻就这么哭笑不得的结束了。而且越南兵的临阵混乱，也极大的影响了未来法军对土著兵的信任和使用。
经过再一次的炮火洗礼后，第二波进攻开始了，这一次是清一色的法国人，嗷嗷叫着，野兽一般的扑上来。
但是假如以为这些官兵只是匹夫之勇，那就大错特错了。
法军的冲锋非常有特点，并不是一股脑儿直着往前冲，而是几个人一组，呈小幅度的曲线向前冲锋，仿佛一个个小“S”形，这样也是一种战术机动。
因为直线冲锋，对防守一方来说，就好像是在瞄准固定靶，但是有了这种战术动作，防御者就是在面对移动靶了，射击准确率就会受影响。
但是中国守军指挥官王孝祺，却不是一个等闲之人，他出生安徽，行伍多年，一向注重谋略，在练军改制前，就有“智将”的名声。
他根据黑旗军的战斗经历，在战前就精心研究过法军的战术，认为最好的防御方法，是每个士兵都将枪口垂直向前，使发射的火力，呈一个均匀的平面发射出去，形成一张没有漏风的火力网，而不是勉强瞄准某一个固定目标。
事实上，在几百米开外，凭借中国士兵的射击技巧，以及施耐德步枪较为落后的性能，即便瞄准了目标，除了几个有限的神射手，又有多大的机率能够命中一个移动中的敌人士兵呢？
但是所有人都只管向正前方开枪，即便你没有瞄准，移动中法军士兵自己也会撞上来，效果反而有可能会更好。
王孝祺一声令下，士兵们一起端枪射击，数千支步枪平行排列，犹如丛林，“哗”的一声射出的弹雨迅速将前排冲锋的法军士兵全部击倒，几乎无一幸免。
后面远处拿着望远镜的尼格里少将，不禁回头对旁边的军官说：“这样的防御火力，真的比我亲身所经历的普法战争还要猛烈，太可拍了。”
在壕沟防线里，中越两军的兵力就达到了7000人，再加上城内高塔上的火炮观察所，不断的指引重炮营进行精确打击，法军连续的几次进攻都无果而终，最后不得不停了下来。
当晚，法军召开军事会议，尼格里提出，正面进攻的伤亡太大，必须考虑新的对策。在经过一番思索后，主帅米乐认为，中国军队已经构筑了完整的防御体系，单靠目前的火炮数量，不足以展开彻底的火力压制。关键是在于内河舰队无法通过河堤，给陆军以火力支援。
为了解决这个问题，必须转换目标，集中兵力进攻红河的河堤，只要占领浮沙村，就能清除河上的障碍，使内河舰队能靠近山西城，用舰炮直接轰击城内。
1月22日，法军对浮沙村的进攻开始了，尼格里调动两个团，分别从两个方向同时猛攻浮沙村。
法军不断用小口径火炮轰击村周围的矮土墙，一度靠近了村口，但刘永福指挥部队进行了拼死反击，一同驻守的黄佐炎部也进行了英勇的抵抗。
黄佐炎在怀德之战中表现不佳，正是由于他丢失了丹凤，使刘永福的侧翼被包围。他对此也深感惭愧。但中国军队知道，黄佐炎也算是越南朝廷里少数能带兵的权贵，而且法军实力强大，打败仗也不能全怪他指挥不力，在中国授意下，嗣德帝反而晋升黄佐炎为靖边使，作为越南北圻地区武装的最高司令。
黄佐炎也决心就此好好表现，此番他这两千部下，核心就是原先建立的“果敢营”，训练水平比一般越南军队高一截。
在中越联军的苦战下，竟然成功的将逼近浮沙村的法军，赶了回去，双方都有数百人的死伤，部下胡昆山和叶成林等相继阵亡。
刘永福一边死守，一边派人向山西城求救。
但尼格里知道此战的关键，不进行任何调整，调集了第二旅所有的兵力，再次发起了猛攻，双方的激战从上午持续到了下午。
到了黄昏时分，法军终于冲破了土墙，大批士兵杀进了浮沙村。法军的“格拉斯步枪”，在近距离的对射中，表现出了极强的杀伤力，它空腔作用发挥的淋漓尽致，中国士兵不管哪个部位挨上一枪，就会被打出一个大洞，马上失去战斗力。
在经历了艰苦的战斗后，刘永福军不得不退出了浮沙村，法军最后终于占领了整个河堤。刘永福退到了村北二里处，清点了一下部队，炮弹已经全部打光了，子弹也不足了。部队战死600多人，加上伤重的，减员超过一半，黄佐炎部也只剩下1000多人。
刘永福知道这个浮沙村非常了重要，他还是计划着要重新夺回来，但这需要城里的援军。
入夜的时候，从山西调来了一个团援军，刘永福组织了将近两千人，黄佐炎也挑选了三百人，又趁夜杀回了浮沙村。
但法军早已经严阵以待，第二旅所有官兵连夜沿着河堤，清除河面上的障碍物，包括运走架在河上的大树，以及拉开堵塞航道的竹排，而防御战斗的任务转而交给了第一旅。
偷袭的刘永福意外的碰上了早就防备着的法军第一旅，而旅长正是患有“反击恐惧症”的波里耶，他指挥部下临时挖掘的防御工事派上了大用场，经过了一场战斗，兵力劣势的刘永福不得不再次退出了浮沙村。