率领残军退到了函谷关二十里外的地方，他一边等待令几路大军的到来，一边联系城内的董卓旧部。数日后张济等人率军前来与李傕相会，而函谷关内的董卓余党王方也同意与李傕合作。是夜，王方派人悄悄地打开了函谷关的大门，五路大军一拥而入，吕布率领自己的两万兵马苦苦抵挡，可是敌人太多，根本抵挡不住。无奈吕布只能率人逃回长安。
吕布狼狈地逃回长安，来到王允府上说道：“岳父，快点跟我走吧，敌军势大我们根本不能抵挡。”
王允摇摇头说道：“我王允生是朝廷的人，死是朝廷的鬼，绝对不能离开皇帝身边。”
吕布无奈只能带着貂蝉和自己的兵马投奔袁术去了。
在没有了吕布的抵挡后，李傕等人的大军长驱直入，一直杀到长安，城门校尉崔烈、太仆鲁馗等人更是在抵挡李傕时被杀。朝中大臣看到李傕等人在长安肆虐，忙请皇帝出面止乱。
无奈之下，汉献帝只能坐着金銮架来到城门，李傕等人看到黄盖，忙制止军士作乱，同时口呼“万岁”。汉献帝坐在銮驾中说道：“你等没有圣旨就带兵直入长安，难道是想造反吗？”
李傕等人忙呼不敢，仰面说道：“董太师乃是国之重臣，却被王允和吕布合谋杀害，我等特来为他报仇，绝不是造反。只要杀了王允，我等立刻退兵。”
王允当时正在銮驾旁边，听到李傕的话后，对着汉献帝说道：“老臣一生为了国家社稷，我现在就下楼去，让他们把老夫杀了，好尽早退兵。”汉献帝不忍王允被杀，刚想说些什么，可是王允已经来到了李傕等人的面前，还大喊道：“王允在此，你等想如何？”
李傕、郭汜拔剑说道：“你为什么要杀害董太师，还不想特赦我们？”
王允大声叱道：“董卓挟持皇帝死有余辜，至于你等更是助纣为虐，怎能特赦！今天我王允在这，要杀要剐悉听尊便。”
李傕、郭汜两人听到王允这个时候还呵斥自己，连忙拔剑上前将王允斩杀，同时命令属下前往王允的府邸将王府的老老少少全部斩杀。
李傕等人看根本就没人阻挡，于是把心一横，率兵攻入皇宫，挟持皇帝，号令天下。