尽管李世民带的三千玄甲精骑是整个唐军的精锐，但面对窦建德的十几万兵马，想要取胜几乎不可能。李世民不可能不知道这个道理，当然他也没那么出神入化。面对众人的质疑，他表示只要死死围住洛阳城，不给王世充任何反击的机会，虎牢附近投降的郑军就会心无旁骛地跟着他们对抗窦建德。
李世民甚至不担心投降的将领会反水，因为他知道王世充已经人心尽失。王世充疑心重，对将士不信任，甚至与杨广如出一辙。将士出征时他以家属相要挟，将士若战死，家属会得到抚恤。将士若投降，则杀其全家，无一幸免。王世充还将百姓每五户分为一组，若每组有一户逃跑，其他四户也要受罚。如此一来，百姓怨声载道，将士人人自危，哪里还有什么战斗力？
虎牢关，南连嵩山，北临黄河，山岭交错，自成天险，易守难攻。虎牢关也是窦建德支援王世充的必经之路。李世民认为只要拿下了虎牢关，就算兵力不占优势，也有把握取胜。所以他早就命令王君廓设法打下虎牢。王君廓也不负众望，他联合附近投降的将领里应外合夺取了虎牢。
李世民到达虎牢之后，窦建德也一路连攻数州，驻扎在虎牢附近的荥阳。窦建德的夏军号称有三十万大军，实际上只有十余万。但这也够唐军将士发愁的了。王君廓拿下虎牢之后兵力也仅有一两万，兵力差距依然悬殊。将士缺乏斗志，士气低迷。
李世民坚信士气是打出来的。这当然不是贸然的冲动，而是审时度势之后的思量。为了探清窦建德的虚实，李世民带着尉迟敬德和五百玄甲军靠近了窦建德的营地，被夏军巡逻的队伍发现。对方以为是侦察军情的斥候，并未主动出击。谁知李世民直接搭弓射箭，射中了对方一名士兵。然后大喊三声：“秦王李世民在此！”
部下将士全被吓了一跳，眼见对方听到后全部往这边冲过来了，“殿下，对方全冲过来了，我们是战还是撤？”慌乱中有人问了一句。
“你们往后撤，我和敬德殿后！”李世民和尉迟敬德直接驱马到最后。李世民一边撤退一边向后方放箭，箭无虚发，全都射中了敌军。追上来的夏军则被尉迟敬德全部用长枪刺中。其余敌军见状不敢再上前拼命。李世民自豪地对尉迟敬德说：“我持弓箭，你执长枪，可抵千军万马。”
追兵不动，李世民也不动。追兵慢，李世民也慢。李世民拿自己当诱饵，直至将追兵引入埋伏圈中，李世绩、程知节、秦叔宝等将领带着人从两侧杀过来，追兵被团团包围……
初次交锋，唐军大获全胜。俘虏了窦建德的两名大将，斩杀三百余人。此时，恰好唐益州行台左仆射窦轨率领巴、蜀兵马前来与李世民会师。此后，窦建德多次派兵攻打，均被打败。
这时候，李世民又使出了他最常用也最有效的杀手锏——劫粮草。他派王君廓带了一千精骑袭击了窦建德的运粮队伍，还俘虏了窦建德手下大将张青特。
两军对峙一月，窦建德未取得任何胜绩，他不禁暗自感叹道：“李世民这个毛头小子怎么就这么难对付？”。相比于王世充，窦建德算得上是一个宽厚的君主。他攻陷城池所得的财物全部分给了将士，自己分文不要。李世绩与其父李盖曾被窦建德俘虏，后来李世绩借机逃走，窦建德并未迁怒于李盖。
李世民也曾修书一封，对窦建德说道：“虽然您攻下了唐的相州和黎阳等地，但淮安王李神通和同安公主等人却得到礼遇，希望双方能放弃旧怨，重修于好。王世充已是强弩之末，不堪一击。希望您莫要听信王世充的花言巧语，率三军之众远道而来白白消耗军费…”
窦建德看过书信轻蔑地一笑，“我不帮王世充难道等着你李世民灭了王世充后再来打我么？”
窦建德就一句话，王世充是一定要帮的。当然，窦建德的部下也都是这么认为的。并不是窦建德的部下有多么看重大局，而是他们大多受到了王世充派来的使臣的贿赂。
至于怎么帮王世充，窦建德部下谋士凌敬建议渡过黄河去攻李唐的发源地河东。唐的兵力全都放在了洛阳，河东地区肯定兵力空虚，如入无人之境。唐若想保住河东，就必须把兵力全部撤回，洛阳之围自然会解除。这一招围魏救赵确实高明，窦建德也觉得没有比这更好的计策了。
如果窦建德此时能当机立断，或许李世民就真的该撤回关中了。奈何王世充一遍遍地派使臣向窦建德求救，直言洛阳告急请求救援，并且暗中收买窦建德部下将领，企图阻挠凌敬的计划。诸将皆言：“凌敬一介书生，哪里会懂打仗的事？形势如此急迫，再不出手，郑就要被唐灭了。”
看到大家如此笃定，窦建德以为士气高涨，也不好违背众将的意愿，便对凌敬说道：“诸将士气高昂，乃天助我也，此时决战，必能大胜。恐怕不能按你的计策行事了。”凌敬争辩再三，窦建德也不耐烦了，直接命人将其架了出去。
当局者迷，旁观者清。窦建德的夫人曹氏也劝说道：“凌敬的话不能不听。趁河东兵力空虚，先夺河东，再借助突厥的兵马夺取关中。唐军自会回师自救，还用担心洛阳之围不解吗？在此停滞不前，消耗人力财力。何时才能打到洛阳呢？”
窦建德却不听，只道：“这不是一个女人家能懂的事情。王世充处境危险，我不能弃他而去，背信弃义。”
曹氏无语，愤然离去。
窦建德的这个选择正中李世民下怀。李世民甚至忍不住偷笑，“既然窦建德没有选择去打河东，我也不能让他失望，先给他一个必须要打虎牢的理由。”
“殿下是想诱敌深入吗？”跟了李世民这么久，长孙无忌知道李世民从来不会按照常理出牌，所以有此一问。
然后李世民笑了笑，挥手说道：“附耳过来”。李世民在长孙无忌耳边悄悄地不知说着什么…
几天后，听到唐军草料快要用尽，要在黄河以北放马的消息，窦建德以为千载难逢的机会来了，便时刻准备袭击虎牢关。当唐军的上千匹马出现在黄河北岸那片浓绿的草地上时，窦建德兴奋地以为河对岸的唐军就像这觅食的马一样悠闲，毫无戒备。于是一声令下，大军倾巢而出，队伍绵延数十里，蔚为壮观。
部下谋士劝窦建德：“李世民作战诡计多端，麾下强将众多，万一对方设下陷阱，大王贸然前去，损失不可估量。应当先派一部分人去探探虚实，而后再做打算。”
窦建德摇了摇头，道：“李世民的大部分兵力都在洛阳，我这十万人还怕他们不成？”
确实，远远看去，窦建德的十万大军威风凛凛，着实把唐军诸将吓了一跳。“殿下，窦建德率全部人马朝咱们这边来了。咱们要不要准备迎战？”窦轨着急地问。
“不着急，我去看看。”李世民登高而望，只见夏军黑压压的一片在远处列阵。只能看见队伍的头，看不到尾。李世民也没想到放出了一个草料耗尽的消息竟然把窦建德的全部人马引来了。
彼时，唐军总共约五万余人，兵力差距使诸将担心不是夏军的对手。但李世民压根就没想着硬拼，他说“既然兵力不占优势，我们就不能正面迎战。窦建德起兵至今根本没遇到过强大的对手，所以必然会轻敌。”
此言一出，诸将明白李世民定是有了策略，慌乱的心绪逐渐镇定。只听李世民说道：“对方摆出如此大的阵仗，必定是想要速战速决。我们就按兵不动，等着他们饥饿难耐，要撤退的时候我们再去进攻，必然会取胜。”
窦建德按部就班地派了三百骑兵到唐军阵前叫阵，李世民派王君廓带了三百长枪手应战。双方互相交锋，不分胜负，而后撤回各自营地。
李世民就在不远处观战，忽然看见对方阵前有人骑着一匹高大的骏马，穿着鲜亮的铠甲在阵前不知说着什么。李世民瞬间被那匹马吸引了，向身边的人夸赞起了那匹马。程知节认得那人是王世充的侄子王琬，而他骑的马正是杨广的青骢马。
“殿下稍等片刻，末将这就去把那匹马给您抢过来。”尉迟敬德跳上马就要准备过去。
李世民连忙制止道：“不必了，不能因为一匹马损失一员大将。”
“殿下放心，末将定能安然无恙的回来，请允许末将前去一搏。”尉迟敬德志在必得。李世民只好同意了，又派了两人与他同去。
不到一炷香的功夫，三人便牵着青骢马马绑着王琬回来了。
“敬德果然英勇！”诸将皆为尉迟敬德喝彩。李世民又让尉迟敬德去召回黄河北岸的马匹。
窦建德十万大军列阵迎敌，从早晨持续到正午，吃饭喝水都成了问题。见唐军按兵不动，窦建德开始着急了，再这样下去，军心涣散，将士斗志全无。
李世民派宇文士及带着三百骑兵去探路，发现对方军阵已然散乱，兵士疲倦，有撤退的迹象。宇文士及马上把情况告诉了李世民。李世民明白机会来了，正好此时尉迟敬德带着一千匹战马回来了。于是李世民召集所有将领，安排进攻。李世民带着骑兵冲在最前面，大部队紧跟在后。
窦建德根本没想到唐军会偷袭，还不紧不慢地与所有大臣商量着该撤退还是该进攻，李世民已经冲到了营前。毫无准备的夏军乱作一团。趁其慌乱之际，唐军诸将直冲营中，夏军被打得四处乱窜，有的连兵器都顾不上取，更别说抵御唐军了。霎时只见阵中尘土飞扬，战马咆哮，杀声漫天，剑拔弩张。
窦建德暗叫不好，连忙召集骑兵抵御唐军，奈何群臣纷纷跑到他前面，黑压压的一片跪倒在他面前，哭哭啼啼地寻求庇护，竟不听他的号令，骑兵根本无法过去。眼看唐军朝着大营冲来，窦建德无奈只能撇下群臣带着骑兵向后撤。
李世民率领史大奈、程知节、秦叔宝、宇文歆等人将旌旗卷起，冲入敌阵，从阵后而出，将军旗插在敌营。程知节扯着嗓子喊道：“夏军将士们，你们快看，我大唐军旗已插到你们的阵营，你们无路可去了。从现在起，投降不杀！”夏军见状以为被包围了，随即崩溃，有的逃跑，有的倒戈投降，溃不成军。
窦建德带着骑兵撤退到一处山坡下，被唐军追上，厮杀之际，窦建德被长枪刺伤，随即骑着马拼命逃跑。奈何唐军紧追不舍，窦建德终被唐车骑将军白士让和杨威武击落马下，二人挺枪欲刺时，忽见对方求饶，道：“将军饶命，我乃夏王窦建德是也。”于是二人将窦建德绑了带去见李世民。
李世民这边正在命人清点俘虏人数，由于人太多，长孙无忌、房玄龄和杜如晦等人根本忙不过来，李世民也和他们一起审问窦建德的一众文臣武将。当听到窦建德被抓的消息时，李世民连忙放下手中的活，要见窦建德。
灰头土脸的窦建德被五花大绑着带到了李世民面前。李世民故作生气地问道：“我打王世充关长乐王何事？你不在河北待着，为何要来此阻止我攻洛阳？”
窦建德哈哈大笑，道：“我知秦王定会有此一问。敢问秦王，今日我若不出手，待他日你攻下洛阳，会不会来攻我河北呢？我未雨绸缪，何错之有？”
这次李世民笑了，“来人，给长乐王松绑！”李世民又命人准备了酒菜，接着说道：“你今日还没来得及进食吧？”
“秦王这是何意？”窦建德不明所以。
“放心，你我今日虽是敌人，但我还是很敬重你的。你当日送回同安公主，有优待淮安王等人，也算是于我大唐有恩。”
“如此，便多谢秦王了。”窦建德便端起碗来狼吞虎咽地吃起来，酒足饭饱后，李世民又问道：“我今日俘虏了你的部下近五万人，你说我该怎么处置他们呢？”
窦建德忽然扑通一下跪在李世民面前，说道：“我自知自身难保，但还是想求秦王一件事。我的部下大多是一路跟着我到现在的，是我谋略不足，害他们被俘。只要他们真心归顺，求秦王能饶恕他们一命。”
李世民扶起了窦建德，说道：“你放心，只要他们真心归顺，我肯定会善待。我打算把无官职的士兵全放了，让他们回家。你觉得他们会不会再造反呢？”
窦建德一听这话，彻底被李世民的仁厚征服了，感动得差点没哭，说道：“秦王如此宽宏大量，我替他们感谢秦王。如果……”窦建德又想起了什么，却又不好说出口。
“你但说无妨。”
“如果我活着，他们是不会造反的。”
“好，我会尽量请求陛下赦免你的。”