魏宣武任命朱志鑫为第二野战师帅，宋景诗为副师帅，将各野战师都各配一个教导旅以便每占一地从中抽调士兵充作地方部队骨干，又给各师配备一个工兵洋营专管土工作业。接着在河南精选战士，成立了第七野战师，以黄呈忠为师帅、叶子笑为总教在开封附近训练。另有十个辎重旅，六个独立炮兵旅，一个任柱的骑兵旅都集于开封。曾顺的黄河水师有浅水铁甲重炮舰两艘，蒸汽木制炮艇十艘，其余木制炮帆船五十艘，大小运输船五百艘，水师陆战卒一个。从湖北调回古大力，与祁开山一起组建第八野战师，让任三应建了第二骑兵旅。
1868年9月21日，曾顺的黄河水师攻击清登州总兵所辖舰船，经过二十多天战斗，共击沉各类舰船三十八艘，俘虏二百二十七艘巡船、哨船、运输船等。这期间，魏宣武成立了北伐都督府，自兼北伐大都督，以杨权兼主教，秦汉为副都督兼第三野战师帅，马聚奎为参军长，洪全福为教务长，都督府设参军二十三人、教务八人、从事六人、伙夫十人，直辖护卫卒、工兵卒、传令队、医务队、勤务队、机修队、骡马队，下辖第三野战师、第五野战师、第六野战师、第七野战师、第一骑兵旅、第一至第五独立炮兵旅，共三十余万人。
1868年10月13日，秋高气爽，魏宣武在河南省开封府誓师，将前洪杨天国讨胡檄文略改后发布，曰：“嗟尔有众，明听予言!予惟天下者，汉家之天下，非胡虏之天下也;衣食者，汉家之衣食，非胡虏之衣食也;子女民人者，汉家之子女民人，非胡虏之子女民人也。
慨自满洲肆毒，混乱中国，而中国以六合之大，九州之众，一任其胡行，而恬不为怪，中国尚得为有人乎?妖胡虐焰燔苍穹，淫毒秽宸极，腥风播于四海，妖气惨于五胡，而中国之人，反低首下心，甘为臣仆，甚矣哉!中国之无人也!
夫中国首也，胡虏足也;中国神州也，胡虏妖人也。中国名为神州者何?天道皇天帝真神也，天地山海，是其造成，赖孔孟老庄释迦诸圣教化先民，民悉知礼，民风淳朴敦厚，故从前以神州名中国也。胡虏目为妖人者何?蛇魔\"阎罗妖\"邪鬼也，鞑靼妖胡，惟此敬拜，故当今以妖人目胡虏也。奈何足反加首?妖人反盗神州?驱我中国悉变妖魔?罄南山之竹简，写不尽满地淫污;决东海之波涛，洗不净弥天罪孽!予谨按其彰着人间者，约略言之:夫中国有中国之形像，今满洲悉令削发，拖一长尾于后，是使中国之人变为禽犬也。中国有中国之衣冠，今满洲另置顶戴，胡衣猴冠，坏先代之服冕，是使中国之人忘其根本也。中国有中国之人伦，前伪妖康熙，暗令鞑子一人管十家，淫乱中国之女子，是欲中国之人尽为胡种也。中国有中国之配偶，今满洲妖魔，悉收中国之美姬，为奴为妾，三千粉黛，皆为羯狗所污;百万红颜，竟与骚狐同寝，言之恸心，谈之污舌，是尽中国之女子而玷辱之也。中国有中国之制度，今满洲造为妖魔条律，使我中国之人无能脱其网罗，无所措其手足，是尽中国之男儿而胁制之也。中国有中国之语言，今满洲造为京腔，更中国音，是欲以胡言胡语惑中国也。凡有水旱，略不怜恤，坐视其饿莩流离，暴露如莽，是欲使中国之人稀少也。满洲又纵贪官污吏，布满天下，使剥民脂膏，士女皆哭泣道路，是欲我中国之人贫穷也。官以贿得，刑以钱免，富儿当权，豪杰绝望，是使我中国之英俊抑郁而死也。凡有起义与复中国者，动诬以谋反大逆，夷其九族，是欲绝我中国英雄之谋也。满洲之所以愚弄中国，欺侮中国者，无所不用其极，巧矣哉!
昔姚弋仲，胡种也，犹戒其子襄，使归义中国;苻融亦胡种也，每劝其兄坚，使不攻中国。今满洲乃忘其根源之丑贱，乘吴三桂之招引，霸占中国，极恶穷凶。予细查满鞑子之始末，其祖宗乃一白狐、一赤狗，交媾成精，遂产妖人，种类日滋，自相配合，并无人伦风化。乘中国之无人，盗据中夏，妖座之设，野狐升据;蛇窝之内，沐猴而冠。我中国不能犁其窟而锄其穴，反中其诡谋，受其凌辱，听其吓诈，甚至庸恶陋劣，贪图蝇头，拜跪于狐群狗党之中。今有三尺童子，至无知也，指犬豕而使之拜，则艴然怒。今胡虏犹犬豕也，公等读书知古，毫不知羞?昔文天祥、谢枋得誓死不事元，史可法、瞿式耜誓死不事清，此皆诸公之所熟闻也。予总料满洲之众不过十数万，而我中国之众不下五千余万，以五千余万之众，受制于十万，亦孔之丑矣!
今幸天道好还，中国有复兴之理，人心思治，胡虏有必灭之征。三七之运告终，而九五之真人已出。胡罪贯盈，皇天震怒，命我圣教主肃将天威，创建义旗，扫除妖孽，廓清中夏，恭行天罚。言乎远，言乎迩，孰无左袒之心，或为官，或为民，当急扬徽之志!甲胄干戈，载义声而生色;夫妇男女，摅公愤以前驱。誓屠八旗，以安九有。特诏四方英俊，速遵天道，以奖天衷。执守绪于蔡州，擒妥欢于应昌。兴复久沦之境土，顶起天道之纲常。其有能擒狗鞑子同治来献者，或能斩其首级来投者，又有能擒斩一切满洲胡人头目者，奏封大官，决不食言:盖皇天帝当初六日造成之天下，今既蒙皇天帝开大恩，命我圣教主治之，岂胡虏所得而久乱哉!公等世居中国，谁非天帝子女，谁非孔孟老庄释迦之信徒?倘能奏天诛妖，执蝥孤以先登，戒防风之后至。在世英雄无比，在天荣耀无疆。一旦扫妖平胡，天下耕者有其田，居者有其屋，商者利其市，能者尽其能，子女乐其学，老有所养，幼有所依，官为民仆，民知书礼，同享天国之乐。如或执迷不悟，保伪拒真，生为胡人，死为胡鬼。顺逆有大体，华夷有定名，各宜顺天，脱鬼成人。公等苦满州之祸久矣!至今而犹不知变计，同心戮力，扫荡胡尘，其何以对天帝及孔孟老庄释迦各先贤于高天乎?与义兵，上为天帝报瞒天之仇，中为复华夏古礼，下为中国解下首之苦，预期肃清胡氛，同享太平之乐。顺天有厚赏，逆天有显戮。布告天下，咸使知闻。”
然后，以秦汉第三野战师为先锋，在黄河水师的掩护下，从考城渡河攻克东明、长垣两县，建立分粮台，各部依次渡黄河进入直隶省北伐，独留古大力、祁开山率第八野战师、任三应第二骑兵旅在河南省留守，遮护粮道兼做援应。牛大山在开封建总粮台，辖十个辎重旅，为北伐军及其余各地野战师筹措运送各种物资。