曾胡在发起东征时，对整个战役计划做了精心部署，并分出了一二线，其中第一线是安庆、桐城及祁门一带，第二线是湘鄂交界的大别山各要隘。不过这一部署存在着一个致命弱点：湘军的主力部队几乎全都被集中到了第一线，湘军本身兵力不多，这样一来，第二线便只剩下了成大吉、余际昌等寥寥几支部队。

据估计，集结于皖北的水陆步骑各军在极盛时超过了六万。很多人事后批评胡林翼得安庆之心过于急切，把重兵都调到了皖北，致使后方空虚，犯了兵家大忌。实际上，胡林翼对这种情况是有心理准备的，可以说是有意为之。按照他的观点，“进兵求战，约不过五六分可靠便应放手放胆”“兵事怕不得许多，算到五六分便须放胆放手，本无万全之策”“若处处设备，即十万兵，无尺寸之效”“处处设备，必致处处无备”。也就说，胡林翼在做出进兵皖北的部署时，就预料到要冒一定风险，可是为了集中兵力，他又认为这个险完全值得一冒。

如果说胡林翼排兵布阵是不得已而为之，而且已经提前预估了风险和收益，大营前移却实实在在是犯了一个冒进的错误。胡林翼的大营本来设在英山，此处距鄂东重镇黄州不足两百里，又为大别山要隘，犹如一面屏障，可以对第二线起到加强和巩固作用。可是在陈玉成西征后，为了支援和指挥第一线的作战，胡林翼临时将大营迁到了太湖，第二线由此变得更加薄弱。

1861年3月6日，陈玉成率部大举西进，守卫安徽霍山的余际昌部进行抵御，但太平军自黑石渡绕迂回至敌后，余部大败，七营人马被歼了四营。

霍山之后是英山，由于胡林翼大营已经前移，英山没有兵勇，太平军不费吹灰之力便予以占领。从英山到武汉，沿途各府县均无兵守卫，不过是在唱空城计而已，太平军如果要攻取它们同样是轻而易举，如同摧枯拉朽般容易。

消息传至胡林翼的太湖大营，胡林翼大惊失色，他万万没有想到陈玉成能够如此迅速果断地奔袭其后方。眼看着风险和收益将严重不成比例，他一边叫苦不迭，痛骂自己“笨人下棋，死不顾家”，一边向曾国藩表示，是自己谋划不周，愿负其罪。

奉胡林翼之命，原驻扎于青草塥的李续宜部急忙回援湖北。李续宜出发不到两天，陈玉成却又假冒湘军旗号袭取了黄州府。黄州是湖北重要的财赋之区，地丁糟粮征额几乎达到全省的二分之一，有“黄州钱漕半一省”之称，同时它东距大别山，西至武汉都不过百里，为武汉外围的军事要地。

黄州被攻破，使得整个湖北为之震动。恐慌情绪迅速蔓延于省城，老百姓争相逃避，胡林翼的夫人当时住在省城，也赶紧带上他们夫妇过继的儿子逃难。短时间内，各粮台、军火总局全都人去屋空，总管粮台的阎敬铭号令不灵，愤极之下欲上吊自杀，虽然最后没有死成，但也几乎断气。

城中秩序变得极其混乱，监狱里的囚犯纷纷闹着要出来。一些社会上的人也极力渲染太平军即将入城的消息，试图从中作乱，有的甚至已经开始公开抢劫。幸而湖南布政使唐义渠颇能沉得住气，他带队巡察全城，并亲杀数人，城内秩序这才稍稍稳定下来。

得知武汉已呈瓦解之势，正卧病在床的胡林翼既惊又悔，大口吐血不止，连连哀叹：“临死而得罪一省之官民，何颜复立于人世哉！”其间，他三次向水师救援，一天之内连发四次急信给李续宜，说：“贼（太平军）入黄州，恐日内又假冒官兵，分兵掳船渡江，扰入武汉矣！”

无论湘军水师还是李续宜部，抑或本来就留守湖北的舒保部，都还没能够赶到武昌。汉口没有城墙等防御工事，武汉守军仅有两千余步兵和数百骑兵，防卫力量极其薄弱。太平军只要继续西进，不仅汉口唾手可得，即如武昌、汉阳也不难迅速攻下。

事实上，太平军先头部队已进至距汉口不过四十里的滠口，但陈玉成并未抓住这一大好战机，指挥主力直捣武昌，而是在前锋部队小挫于滠口之后，即游移不前。

按照《天津条约》和《北京条约》规定，汉口、九江均为中方所增设的对外开放商埠。英国驻华海军司令何伯沿江察看商埠，行至汉口，得知太平军已攻占黄州，并有进一步攻取武汉的迹象，他忙派参赞巴夏礼前去黄州会见陈玉成。

见到陈玉成后，巴夏礼强调英方在汉口有商业利益，要求太平军不要攻打武汉。陈玉成听后，居然一口答应放弃进攻武汉，接着便分兵攻向湖北腹地的其他府县。