大业十二年(616年)十二月，隋涿郡通守郭绚率兵万余人攻打高士达。高士达认为自己智略不及窦建德，便以窦建德为军司马，让其指挥作战。窦建德掌管兵权后，想树立自己的威信，便提议由高士达留下看守辎重，自率精兵七千人前去抵抗郭绚。窦建德假称和高士达不和前来投奔，郭绚却心怀疑虑。正值高士达也四处宣称窦建德背信弃义投降隋军，并将俘获来的一名妇女，当作窦建德的妻子，在军中杀掉。窦建德派人给郭绚递上降书，并说自己愿意作为先锋，带郭绚去攻打高士达。郭绚相信了窦建德，率兵随建德至长河界地与窦建德相会，共图高士达。郭绚部遂放松了对窦建德的戒备，窦建德抓住战机，建德发起突然袭击，大破郭绚军，杀略数千人，获马千余匹，并将逃跑的郭绚斩首。自此，窦建德所率义军兵威大振。    

    郭绚兵败后，隋炀帝又派太仆卿杨义臣率兵万余前来围剿起义军。杨义臣于清河先歼灭了张金称的部队，由于杨义臣将所俘义军全部杀死，以至无人愿降，一些溃散在草泽中的残部相继投奔窦建德。杨义臣乘胜至平原(郡治安德，今山东陵县)，准备进入高鸡泊讨伐高士达部。窦建德见隋军士气正盛，便对高士达说：“历观隋将，善用兵者，唯义臣耳。新破金称，远来袭我，其锋不可当。请引兵避之，令其欲战不得，空延岁月，将士疲倦，乘便袭击，可有大功。今与争锋，恐公不能敌也”(《旧唐书·窦建德列传》)。但高士达却不采纳窦建德的避敌锋芒、以逸待劳、伺机破敌这个正确意见，留窦建德守营，亲自率精兵主动出击，初获小胜，便纵酒高宴，有轻杨义臣之心。窦建德闻讯后，说：“东海公未能破贼而自矜大，此祸至不久矣。隋兵乘胜，必长驱至此，人心惊骇，吾恐不全”(《旧唐书·窦建德列传》)。自率精锐百余人把守险要，以防高士达之败。结果，不过5天，高士达便被杨义臣所杀。杨义臣乘势追击建德，欲将窦建德所部全歼。追至北薄垒，守兵闻高士达败，皆溃败。窦建德寡不敌众，不能再战，只得率百余人突围而去。窦建德撤至饶阳(今属河北)，见饶阳守军没有防备，遂攻占饶阳。杨义臣见高士达已死，并没有将窦建德放在心上，领兵而回。窦建德遂得以回到平原，在此收编余部，抚循士众，多数人表示愿意跟随窦建德，同时窦建德在此又得3000余兵，实力有所增强。窦建德还为高士达发丧。接着又招集亡卒，得数千人，军威得以重振，窦建德开始自称将军。起初，义军见到隋官及士人一律杀掉，唯有窦建德注意争取这些一般官吏，所以隋郡县的许多官员都主动归附。窦建德军很快发展到10余万人。    

     大业十三年(617年)正月，窦建德在河间郡乐寿(今河北献县)筑坛，自立为长乐王，年号丁丑，开始设置百官，分治郡县(窦建德称长乐王的时间，《旧唐书·高祖纪》作武德元年，此据《隋书·炀帝纪》、《旧唐书·窦建德传》及《资治通鉴·卷第一百八十三》)。窦建德率兵攻占信都(今河北冀县)、清河诸郡，并俘斩隋将杨善会于清河。  

     七月，隋炀帝为解瓦岗军急攻东都之围，命左御卫大将军涿郡留守薛世雄领3万幽、蓟精兵南下，会同王世充等驰援洛阳，“所过盗贼，随便诛剪”(《资治通鉴·卷第一百八十四》)。王世充等诸将皆受世雄节度。薛世雄部队进占七里井(今河北河间南)准备进攻刚刚在乐寿称王的窦建德。当时，窦建德军在乐寿周围各县分散收麦。窦建德本人在武强(今河北武强西南)征粮，闻薛世雄前来，遂撤出诸城，扬言还回豆子航，以麻痹敌人。薛世雄以为义军怕自己，放松了警惕和戒备。窦建德距薛世雄营寨140里，建德率敢死队280人先行，命令后续部队跟进于后，星夜奔袭世雄。翌日凌晨，窦建德进抵薛营前，正巧大雾迷漫，咫尺莫辨。突然发起冲击，薛世雄士卒大乱，纷纷离帐逃命，自相践踏，不可收拾。薛世雄率亲兵数十骑逃归涿郡，惭恙发病，未几而卒。窦建德乘胜进攻河间城，围困城池，却屡战不克。