东连镇的扫北军余部已不足两千人，在粮食罄尽的情形下，于营内“遍掘新埋男女尸身，归入圣粮馆中，按人分肉”，又坚守了19天之久。3月7日，清军对东连镇发起最后的攻击。扫北军余部“半死刀枪之下，半死运河水中”。身受重伤的林凤祥与少数部属藏在地洞中，打算在清军撤离后伺机逃走。但地洞口被叛徒施绍恒发现。已服毒的林凤祥被抬至清军大营施救。3月14日，林凤祥等被槛送到北京。次日下午，在菜市口被凌迟处死。林凤祥就刑时，“刀所及处，眼光犹视之，终未尝出一声”。
李开芳率领的630多名精骑，于1854年5月29日下午占据高唐州城。当晚，胜保的马队追至，于城北扎营。待其大批步队调到，城内的太平军布防已妥。李部600余人坚守高唐孤城，与十数倍于己的清军对峙，前后达九个半月之久。其间，李开芳曾多次派人到连镇送信，嘱林凤祥不必再等救兵，即刻从连镇南下，一起回南。但送信之人多被清方查获。林凤祥也多次组织突围，但一直突不出来。李开芳始终未能等到连镇的大部队南下。李部人数不多，但极为精干。他们常常趁夜晚骚扰敌人，“无日兵勇不为所害，至下半月黑夜尤甚”，且“每晚至附近村庄抢粮”。胜保虽骄横，但不可能像僧格林沁在连镇那样修筑周围几十里的大濠墙以切断城内太平军与四乡群众的联系，甚至其所统带的川、楚等勇，也有暗中与太平军通气者。“是以官军声息，贼尽知之；而贼之情形，官军反不能知。”