当陆遥以少量兵力两次奇袭敌军的时候，介休城迎来了重围之中的第四天。

负责围攻介休城的，是征虏大将军呼延晏。这个征虏大将军的将军号着实有些奇怪，因为匈奴人就是通常所说的“胡虏”，所谓的征虏大将军，倒像是自己征讨自己一般。

呼延晏是汉王刘渊妻子的幼弟，今年三十四岁，在汉国朝廷之中地位极高。刘渊凡有征战，经常以他为全军副帅。其人虽不是身当白刃的悍将，胜在性格沉稳、用兵老练。匈奴大军越过雀鼠谷的当天，他便率领大约两万人的部队将介休四面围定。

第一日，匈奴以无数推车负土，欲填平护城河。虽然介休守军居高临下，箭如飞蝗，但是匈奴军队的士卒悍不畏死，前仆后继地把土石倾倒进护城河里。有时前排的推车士卒被箭矢射伤，动作迟缓。后排的士卒便不管不顾，将前排连人带车推进河中。

饶是卢昶身经百战，这般舍死忘生的军队，还是头一次遇到。他眼看形势不妙，连连派遣精干部队从隐蔽处搥下城去骚扰匈奴的填河进度。但是呼延晏早有准备，令骁将刘通领三千精锐骑兵绕城巡游，一旦遇到晋军，立刻捕杀。卢昶接连损失几股兵力，便只能眼看匈奴大举填河。到日落时分，介休的护城河已被完全填平。

次日起，匈奴大举攻城。介休城外地形复杂，西南面扼守雀鼠谷的隘口，东南面是绵山，城北是连绵的沼泽，唯有城西地势开阔，适合用兵。匈奴人攻城的主力便集中在西面城墙，而以东面为策应。

负责攻打城西的是武牙大将军刘钦所部。刘钦身披重甲，亲临前线，众将士无不奋勇效死，一时间，云梯如林而立，胡族勇士数千人在震耳欲聋的呐喊声中，纷纷攀附城墙。另外有数百人推着简陋的冲车猛烈撞击城门，其后又有数千人马跃跃欲试，只待城门一破，便杀进城内。

怎奈介休虽小，却极其坚固。卢昶担任城守之后，又在城防建设上狠狠地下了工夫，各种守城器械准备非常充分。守军用数丈长的拒杆将云梯一一推倒。当匈奴人试图重新立起云梯时，守军用大量的滚木落石痛打他们。驻守城门的守军则推下滚油和大量的柴禾干草，然后再扔下熊熊火炬。全部冲车都被先后烧毁，就连推车的士卒也烧死了许多。

鏖战了半天，双方你来我往，战场主动权几度易手。毕竟匈奴大军数量太多，终于逼得晋军一处城墙守卫不牢，数十名将士成功登城。这些刃都是匈奴两万之众中精选出的先登之士，不仅武艺精熟，而且最是凶悍勇猛。他们一旦翻过城头，立即大砍大杀，掩护后继队伍跟上。

垛口附近的晋军伤亡惨重，这时只剩下一名什长和几名士卒，反而陷入十余名胡人的包围之中。转眼的工夫，几名士卒就被乱刀砍死。那什长虽然身手矫健，也不过多撑了片刻；架不住胡人刀剑并举，肚腹被砍了一刀，肠子都流出来了。什长惨笑一声，忽然腾身跃上，抱着一个胡人士卒往城墙下翻去。只听得那胡人士卒大声嘶吼，接着便是一声扑哧闷响。