再说这宋老生这边听闻李渊大军将至，心里有些不安，随即召集诸将商议退敌之策，只听军中有一人言道:“李渊大军此来不足为虑，其如今士气正盛，不可与之正面对决，今日李渊引兵至此，又逢大雨，其后方又有突厥，刘武周虎视眈眈，将军可令人扮成晋阳流民，于附近传播传谣言，就说太原已被突厥攻破，李渊军队听闻必定军心大乱，不敢西进，必定回军晋阳，介时我军在引军追杀，必定生擒李渊。...

宋老生闻言大喜过往随即依计行事，李渊大军听闻果然军心大乱，李渊也心生疑窦，刘文静出使突厥已经多日，按理来说早应回来复命，刘文静多日不归，莫非和谈不成，盟约未定，加之李渊派遣使者催促晋阳押送军粮迟迟未到，难道晋阳真的被攻破？随即后悔不听裴寂之言，召来诸位将领，谋臣，商议退兵之计。

李渊对诸人说到，今日军中流传晋阳已被那刘武周，突厥袭取，元吉尚且年幼，近日军粮迟迟未到，延误军期甚久，莫非晋阳真为敌所破，诸位将士的妻儿老小、以及我军的粮草都在晋阳城中，晋阳实为我军根本，倘若有失，我等必万劫不复，不如就班师，等讨平那刘武周再做计较。

诸人皆赞同，唯有李世民说道，晋阳城池坚固异常，兵力有五万余人，突厥人和刘武周怎能轻易袭取，再说那刘文静正出使突厥两家正在和谈突厥怎能轻起刀兵，我大军发兵寸功未建，如此撤退，岂不被天下，耻笑，又怎么让人归顺。

李渊心想我这个儿子总是建功心切，天下哪有舍本逐末的道理，随即说道，我儿不必多言，待雨大，不宜退兵，明日雨小，随即撤军。

李世民闻言心头一阵，众人在此，也不敢顶撞父亲，只好离去，打算散会后再言。

会后，李渊得卫士来报说是李世民拜见，李渊说道，就说我已经休息，有事日后再议。

李世民见李渊不见，只好跪在大帐外嚎啕大哭，李渊则不予理会。

只见李世民长跪不起，跪了一夜，眼泪也以哭干，神情憔悴。

翌日清晨，李渊见李世民依旧长跪不起，心中有些心疼，随即传召李世民，说到，二郎啊，你平素乖巧听话，今日怎地这般执拗。

李世民道:“你我父子即将身死，我岂能不哭。”

李渊说道“二郎何故如此说，李世民说道如今众人之所以追随父亲，并非对父亲忠心，不过以为父亲能成事，想谋个富贵罢了，父亲大肆许官，也是拉拢人心之故，如今军中流言四起，军心涣散，但好在并未证实，我们好生安抚便可重振军心，若是此时父亲撤兵，部众必会对流言信以为真，到时，军士必定离散，宋老生再乘势击之，只怕不到晋阳，你我已经身死，为今之计，不论晋阳是否被攻克，父亲都应当说未被攻克，一鼓作气，拿下关中，我军一路进兵，关中必定响应，还愁没有立锥之地吗，况且我军军粮尚且还够维持数日，万不可再拖延，应与那宋老生速战速决。”

李渊听罢顿觉有理:“论见识之深，我不及我儿啊，我儿可堪大用”说罢，采纳其言。

说罢令人击鼓召集诸将，声称军中流言，乃是宋老生之计，整顿军心，适逢大雨已停，大军随即开拔，前往霍邑。

及至城下，宋老生坚守不出，李世民亲率百人为饵，在城下叫骂宋老生，做谋划围城之势，宋老生听闻细作报告李渊此次所带人马不多，李世民又如此年轻，当下心生傲慢，又想敌若围城城中粮草不多，日久必被其破，再者，敌军前来人数不多，一味避战，岂不影响军心士气，对左右说到，都说李渊颇具才略，依我之见，实在糊涂，竟以如此毛头小子为帅，料想此辈所带之兵不过乌合之众，未必胜我，此时正是我等建功立业之时。说罢率领军队出城列阵，迎战唐军。

李世民见宋老生出城迎战，当即率军撤退，李渊引大军来到城下，只见宋老生在城扎阵，双方随即展开血战，宋老生所部乃是隋军精锐，装备精良，反观唐军远道而来，日夜前进多少有些疲惫，只见唐军先锋部队手持盾牌，顶正箭雨发起冲锋，双方交起阵来，激战半个时辰，唐军渐落下风，阵脚有些不稳，逐渐后退，大有崩溃趋势，宋老生乘势率领亲军身先士卒，杀入唐军镇中，李世民大感不妙，随即与刘宏基率领骑兵，快马绕至隋军后侧，杀退宋老生留在后侧兵马，一边大呼宋老生已死，一边从后方夹击隋军，恰巧宋老生的帅旗在战斗中丢失，隋军纷纷信以为真，随即阵型大乱，士兵纷纷溃散，宋老生一件大事不好，随即逃往城下，又见城门口唐军众多，便绕至城墙之下，求救，城上士兵拿来绳索，只见宋老生刚刚爬了不到一丈，便被赶到的几名唐军用刀砍下结果了性命。

城上守军见宋老生已死，只好投降，霍邑故而平定。