宋江兵马杀了高俅的弟弟高廉后，高俅推举呼延灼作兵马指挥使攻打梁山泊。呼延灼用连环马连败宋江兵马。金钱豹子汤隆献计徐宁用钩镰枪可以破连环马。

吴用设计派时迁去东京偷了徐宁的雁翎锁子甲，骗徐宁到了梁山。徐宁的钩镰枪果然破了呼延灼的连环马。呼延灼单枪匹马逃到青州，青州知府让他带人攻打桃花山、二龙山。

梁山泊人马赶到桃花山、二龙山救援，用计把呼延灼骗到陷坑里活捉。呼延灼投降梁山。受招安后，呼延灼被封为御管兵马指挥使。