邺城溃败后，郭子仪被召回长安闲置，肃宗任命李光弼为朔方节度使、天下兵马副元帅，主持河北、河南战事。
此时，史思明已率叛军主力南下，接连攻陷滑州、汴州，兵锋直指洛阳——这座曾是大唐东都的繁华之城，再次面临沦陷危机。
李光弼抵达洛阳时，唐军残部仅万余人，且多为邺城溃败后收拢的散兵，士气低落。
部将建议“退守潼关，凭险拒敌”，李光弼却摇头否决：“洛阳若失，叛军可直逼长安，届时人心大乱，更难收拾。
不如退守河阳，以黄河为屏障，与叛军对峙，待时机再图反击。”
河阳位于洛阳以北、黄河之畔，是连接河北与河南的交通要冲，城内储存着唐军从洛阳转移的粮草与兵器。
李光弼抵达后，立刻着手加固城防：他下令将黄河沿岸的民船尽数收缴，避免被叛军利用；在河阳南城修筑弩台，配备数百架床弩，可射杀百步外的敌军；又在北城挖掘深壕，壕外设置鹿角（尖木栅栏），形成多层防御体系。
同时，他亲自巡视军营，将自己的战马、盔甲赏赐给立功士兵，对着士兵们喊道：“叛军虽众，却多为劫掠之徒。”
“我等为保家国，何惧死战！”
士兵们见主将如此，士气渐振。
乾元二年十月，史思明亲率五万叛军抵达河阳城外，分兵三路。
一路攻南城，一路袭北城，另一路则试图强渡黄河，截断唐军粮道。
叛军先对南城发起猛攻，士兵们推着攻城车、架起云梯，在箭雨掩护下冲向城墙。
李光弼坐镇南城指挥，下令床弩齐发——床弩箭矢粗如长矛，一箭可穿透数名叛军，叛军前锋瞬间倒下一片。
见强攻无果，史思明又派部将周挚率军绕至北城，试图从侧面突破。
北城守将李抱玉是李光弼麾下猛将，他见叛军来势汹汹，却故意派人对周挚说：“我军粮草已尽，明日便献城投降。”
周挚信以为真，下令停止攻城，只派少量士兵监视。
当晚，李抱玉却率敢死队悄悄出城，在叛军大营外堆满柴草，趁夜点燃。
大火燃起时，唐军敢死队手持长刀冲入营中，叛军毫无防备，乱作一团，被斩杀数千人，周挚仅带着残部逃走。
史思明见两路攻城皆败，又下令强渡黄河。
李光弼早已在黄河岸边设下伏兵，叛军船只刚驶至河中央，唐军伏兵便点燃火船，顺流而下。
火船撞向叛军船只，瞬间火光冲天，叛军士兵或被烧死，或坠入黄河淹死，渡河计划彻底破产。
此后，唐军与叛军在河阳对峙数月。史思明多次派兵袭扰，皆被李光弼击退。
李光弼则趁机收拢周边唐军残部，兵力逐渐恢复至两万余人。