两万部下，由李靖伍云召带走五千人悄悄渡过黄河前往魏郡，而张仲坚自己也带着五千人跟随李密前去迎击宇文化及。而剩下的万余部下大都是战力孱弱的老弱新兵，则留在洛口一带迷惑瓦岗。

张仲坚部下连同军队带随同的家属约有三四万，李靖悄悄带走五千人并不惹人注意，因为洛口附近的军民多大数十万，人员复杂，分属很多义军将领统领，还有大量从各地前来乞食的流民。而瓦岗军的组织并不严密，对所属地盘的管控也非常松懈。