第三次征伐辽东随之而来，这一次张士贵眼见乡人离乱，民不聊生，没心思去陪昏庸的皇帝戏耍，干脆的就在家乡扯起了义旗，据寨而守，对征招令视若不见。

那会儿河南人过的都很苦，像张士贵这种联结乡里已求自保的人非常多，他们既要面对官兵的围剿，又要面对乱军的侵扰。

最苦的时候到了什么程度呢，连张士贵这样的门户，都得跟着乡邻去挖野菜，啃树皮了，照这么下去，恐怕张士贵也要亲口尝尝人肉是什么滋味才对，可眼见家财散尽，却还没有任何活路可寻，张士贵终于发现，好像大隋快完蛋了？

有了这种想法，张士贵猛然间便打起了精神，再没有择机投靠官军，率军剿匪以求富贵的想法。

而他的才智和勇气终于在近乎绝境之下爆发了出来，先鼓动乡邻率领他们占据了弘农县城，接着打开粮仓招抚各路义军，流民，几乎眨眼间便在东都西部，潼关东边的区域壮大了起来。

那会张士贵拥兵近十万，是除了李密那个大贼头和东都官军之外，河南最大的一伙势力。

后来王世充和李密在洛阳杀的天昏地暗，双方都对张士贵有所期待，并没有来强攻于他，只是传书招抚，可见，张士贵当时在河南确实占据了一定的地位。

但张士贵对这两个人都看不顺眼，他认为这两个家伙在东都坚城内外相对消耗，是很愚蠢的作为，根本没有人主之像。