窦融的七世祖是西汉孝文窦皇后之弟窦广国，封为章武侯。他的高祖父自常山徙于平陵。
窦融在新朝时一直依附王莽，他曾随王邑出关征讨刘秀，昆阳大败后逃回长安，担任新朝波水将军，抵御更始汉军西进。新朝灭亡后他投降了更始军，依附于大司马赵萌，被推荐为巨鹿太守。
窦融很有战略眼光，他看出更始政权不稳，东方扰乱，不愿出关。他的高祖父曾为张掖太守，从祖父曾为获羌校尉，从弟为武威太守，累世在河西，知其土俗，窦融对其兄弟说：“天下安危未可知，河西殷富，带河为国。张掖属国精兵万骑，一旦缓急，杜绝河津，足以自守，此遗种处也。”兄弟们都同意他的看法。
窦融便请求赵萌为其说情，辞去巨鹿太守之职，转而谋求去河西任职。赵萌为其求情，将他改任为张掖属国都尉。窦融带着家属高高兴兴地去河西任职，在河西广交豪杰，怀辑羌众，很得河西军民爱戴。
窦融与五郡高官结成联盟，被推举为河西五郡大将军，统领河西，观时变动。河西民俗质朴，窦融“政亦宽和”，以致“上下相亲，晏然富殖”。窦融等练兵马，习战时，明烽燧之惊。防羌人扰乱，击匈奴侵扰。“安定、北地、上郡流民避凶饥者，归之不绝。”
窦融在河西做着土皇帝，随时关注东方时局，刘秀称帝后，窦融便想要归附，因为他曾败在刘秀手下，知道刘秀是个豪杰，只是他与燕赵之地隔得太远，不好通行才作罢。
