怕的就是手下人叛变，他赶紧一道圣旨让杨义臣遣散部众，并将其从河北调了回来，让他回洛阳任光禄大夫，礼部尚书，并且带人驻守洛阳的门户东岭关。
杨义臣接到圣旨悲愤忧虑，但不敢不从，不过他没有将部队遣散，而是交给了手下大将杨思恩，让他继续剿灭窦建德。
临行之时杨义臣再三嘱咐，窦建德诡计多端，请杨思恩千万不能大意。杨思恩点头应允。
可是杨思恩等人都认为杀掉高士达后，打败窦建德没有问题。窦建德却乘其不备返回平原县，收拾跟随高士达战死者的遗体，将其都掩埋好，还为高士达举行葬礼，全军穿起白色的丧服。又招集逃散的士卒，得到几千人，军队又振奋起来，窦建德开始自称将军。
匪徒们捉到隋朝的官吏和当地士绅一般会全都杀掉，惟独窦建德捉到他们，一定以礼相待。
最初得到饶阳县的长官宋正本，被当作某主，跟他商讨大计方针。此后隋朝郡县的长官逐渐地献城投降他，窦建德军队气势更加兴旺，精兵强将发展到十多万人。