从长沙撤离之前，曾国藩派罗泽南先到衡阳一步，让他与衡阳知县陆传应取得联系。罗泽南与陆传应早年有过交往，所以，他一到衡阳便受到了热情的招待。罗泽南说明来意后，陆传应一点也没有犹豫，爽快地答应了老朋友的要求。他对罗泽南说：
“曾大人是我们湖南人，他的岳父是衡阳知名儒士，所以他也算半个衡阳人吧！小弟早就听说过‘曾国藩’这个名字，并知道他是唐大人（唐鉴）的得意门生。此人学识渊博、涵养很深，只是无缘高攀。如今曾大人愿意落脚敝地，小弟感到无尚的光荣。”
有他这态度，曾国藩还担心什么呢！
下一步便是向湖南巡抚骆秉章提出最后一点点小的要求了。目前，曾国藩手中有两、三千兵勇，兵勇数目不算太少。但是，谁来带兵？
罗泽南乃一儒生，他的学生王可算勇夫，但带兵打仗尚缺乏经验；郭嵩焘与刘蓉到各县筹集军饷了，再者，他们也是儒生；四弟曾国葆年轻气盛，有勇少谋。
有一个人，他智勇双全、性格刚毅、正直豪爽，是理想的将帅人选。
他就是骆秉章的属下——塔齐布。塔齐布虽是满人，但他谙熟内地的人情世故，又没有绿营军大多数将帅身上的那种骄纵蛮横之劣性。他带兵五年，口碑不错，若是把塔齐布带到衡阳，他能够有效地训练湘勇，对新型军队的建立会有很大的帮助。
可是，骆秉章也是爱才之人，他肯给吗？
当曾国藩昂首阔步进入巡抚衙门时，骆秉章自知前几天自己做得太过分了，他连忙起身相迎，显得有些尴尬：
“曾大人，几天不见，会操场上，官勇与湘勇相处还融洽吧！”
他干笑了两声，曾国藩直作呕。
“谢巡抚大人关心！”
“应该、应该！不管官勇，还是湘勇，都是兵勇嘛！为了扫清湖南境内的匪徒贼子，曾大人及众将领辛苦了，本官已上奏皇上，为你们请功。”骆秉章显得十分和蔼可亲，与那天判若两人。
曾国藩冲了他一句：“不求有功，但求无过！”
“是的、是的，我们都是为了保卫大清的基业，才浴血奋战的。曾大人为国尽忠，精神实在可嘉，令本官钦佩不已。若有什么需要，尽管开口，只要我能力所及，一定满足曾大人。”骆秉章假惺惺地说着。
有了这句话，不管你是真心，还是虚情假意，曾国藩就放心了。他笑眯眯地对骆秉章说：“我今日正是来请骆大人帮忙的。”
“哦！什么事情？请曾大人直言！”骆秉章有些吃惊的样子。
“曾某奉旨办团练，来到长沙已大半年，多有打扰，心中实在过意不去。”曾国藩字斟词酌，表明自己是奉旨行事，办团练乃是尽忠朝廷。你骆秉章对我冷淡、刁难便是对朝廷之大不敬。
骆秉章干笑了两声，说：“谈不上什么打扰，只是对曾大人照顾不周，还望大人海涵！”
“曾某已决定离开长沙，移至衡阳练兵，今天特来辞行。”
骆秉章心中暗喜，他心想：“你走得正好！省得我出面解决种种矛盾了。只要你不给我找麻烦，提出什么要求，我都满足你。阿弥陀佛！最好你现在就走，官勇与湘勇已水火不容，走了一个，我省心多了。”
他不禁露出了笑容。
曾国藩更是聪明人，他识破了骆秉章的心思，也心说道：“今日我离开长沙不是斗不过你们，而是不愿和你们斗下去，白白消耗了我的精力不值得！早晚有一天，曾国藩会让你后悔莫及。趁你这高兴劲儿，我可就提出要求了。”
两个人对视了一下，都干笑了一下。
曾国藩开口道：“湘勇尚需严格训练，不知骆大人可肯送一、两位大帅与我？”
“好说、好说！湘勇也好，官勇也好，都是我们湖南的兵勇，曾大人的要求一定满足。但不知你看上了哪位将领，只管开口。”
“塔齐布。”
“可以，我令塔齐布带五百官勇跟你。此外，我这里还有一位优秀的将领，不知你可肯收下他？”
“谁？只要是优秀的将领，我都要。不过，君子不夺人之美，我若要了他，骆大人要忍痛割爱了。”
“跟你、跟我，都是效忠大清。这个痛，我愿受！那人便是杨载福。”
曾国藩心中大喜，他早就听塔齐布提及此人，只是未曾见过面。
杨载福，湖南新宁人，武举出身。他作战勇猛、为人憨厚、胸襟宽广，有大帅之风范。而且，杨载福与塔齐布是一对好朋友，他们经常在一起切磋武艺。
为什么骆秉章主动把杨载福给曾国藩呢？
这里面自有奥秘：骆巡抚认为曾国藩出山办团练，其手腕是狠毒一些，所揽之权是多了一些，但是，他的功劳也不小。若不是他的“审案局”疯狂地sharen，长沙一带会如此平静吗？自从“曾剃头”名声传开以后，湖南境内的小股农民暴动几乎不见了。再者，他的湘勇出外作战，保存了官勇的实力，又不需要拨给他军饷，何不帮他一把？如果他的队伍在衡阳一步步发展壮大，大则出省作战，小则清除地方不靖。送一、两个将领给他，将来也好控制他的兵勇。一举多得，何乐而不为！
曾国藩带着罗泽南、王、塔齐布、杨载福、曾国葆等人以及三千兵勇来到了衡阳。
一到衡阳，感觉就与长沙截然不同。衡阳知县陆传应亲自出城相迎，他远远地下了马，以大清朝官制之礼节，跪迎曾国藩。
“曾大人一路辛苦了！”
“陆大人，快快请起！”曾国藩一激动，一股暖流涌上心头。几个月以来，他不知遭受了多少个白眼，也不知听到过多少句刺耳的话，他已经“习惯”了那些。今日之礼仪让他顿感欣慰，人间尚有情义在！
陆知县为曾国藩及罗泽南、王、塔齐布、杨载福、曾国葆等人接风洗尘，并拨出银两款待兵勇。曾国藩十分感激，他对陆知县说：
“我们到此多有打扰，请陆大人多包涵！”
“曾大人太谦虚了，你堂堂的二品朝臣愿屈尊至敝县，小弟顿感蓬荜生辉。”
两个人客套了几句，他们便言归正传。曾国藩询问衡阳境内的若干情况，陆传应一一解答。最后，陆知县明确表态：
“需要招兵勇，曾大人只管放心地去招；需要军饷，小弟能给以少量的解决；需要练兵场，我们已物色了一处空地，马上就可以去看一看；需要把你和将帅的家眷接来，小弟会妥当安排。”他考虑得十分周到，曾国藩再次表示感激。他握住陆知县的手，一一作答：
“你想得很周到。不过有许多问题，我们自己可以解决。兵勇已有三千，我们打算再招两千，郭大将军（郭嵩焘）已在湘乡一带着手此事；至于军饷，我们也力争自己解决，刘大将军（刘蓉）来信告知，他已筹饷二十多万两，不够的话，我们暂借你一些，日后一定奉还；操练兵勇，可利用吴三桂留下的校场；家眷一个也不准来，现在是非常时期，儿女情长统统要抛在脑后。”
两天后，曾国藩等人便投入了轰轰烈烈的练兵之中。他将三千兵勇交给罗泽南、王、塔齐布带领，派杨载福去湘乡一带协助郭嵩焘招募兵勇。罗泽南与王是书生出身，在带兵打仗方面要向塔齐布学习。塔齐布却也十分谦虚，并不以“武师”自居，反而口口声声称罗泽南为老师。
三个人关系很融洽，曾国藩心里十分高兴。
此时，刘蓉已带着二十多万两白银来到了衡阳，陆知县又送上十几万两，军饷得到了解决。
曾国藩心里松了一口气。俗话说：手中无钱难办事！
如今手中有了钱，有件事还是很难办。那就是：曾国藩是帮办团练大臣，他的职责是“帮同办理，”没有权力大规模地招兵买马。全国几十个帮办团练大臣，相比起来，他手中的兵勇最多。若要继续扩大规模，必须找一个名正言顺的理由。
毕竟是好朋友，刘蓉一眼就看穿了他的心思。刘蓉献上一计：
“涤生，早在京师时，江忠源与你私交甚好。如今何不求助于他？”
曾国藩沉吟片刻，对老朋友毫不隐瞒什么：“不错，他曾经拜我为师。可是，人情薄如纸，不知他今日可认得我这个无职无权之人。如今江忠源为湖北巡抚，官居二品，而我是不官不绅的团练大臣，也为二品。我这个二品比不上他那个二品，他正走红，肯帮助我吗？”
江忠源的确应称曾国藩为“恩师”。当年两个人在京城的时候，曾国藩欣赏他的直率与豪爽，并把他推荐给朝廷。那时，曾国藩认为京城里找不到几个他这样的人了！如果江忠源能被朝廷重用，他将会为大清铲除“妖孽，”建立卓著功勋。
江忠源回到湖南以后，曾国藩又多次在咸丰皇帝面前推荐他，咸丰皇帝谕令前任湖南巡抚张亮基启用江忠源。江忠源果然不负众望，他在“剿匪”中屡建战功，授为知县，后又迁升为湖北按察使，赏二品顶带。太平军进入湖北后，江忠源带了一批当地招募的绿营兵，从太平军手中夺回了武昌，这才有了今日赫赫有名的湖北巡抚江忠源。
今非昔比，世事难料。今天的江忠源还记得当年曾国藩的知遇之恩吗？
应该能记得！可是，曾国藩没有把握。
自从长沙被几个人排挤、打击以后，他对人世间的苍凉与无奈看得更透了。这世界上，你不欠任何人的情，任何人也不欠你的情。交往时，人们之间互相利用而已，最好当时就把恩怨扯平，两讫了多好；散伙后，你不要想着如何去“还债，”更不要想着让人家来“还债”。
今天，江忠源愿意帮忙是情份，马上也给他一定的帮助，省得日后去“还债”；江忠源不肯帮忙是本份，也不会因此而成为陌路人。
抱着一线希望，曾国藩给江忠源写了一封信。
很快，江忠源回了信。在信中，他说：
“我在湖北听说家乡出了个‘曾剃头’，就知道是先生您。先生早有报国之志，且是嫉恶如仇之人，能以强有力的手段剿杀莠民，非先生莫属。如今先生为团练大臣，小弟当鼎力相助。先生不便公开招募兵勇，如遇不嫌，请以小弟之名招募兵勇。并由小弟上奏皇上，称：‘曾国藩加紧训练兵勇，不久将开往湖北协助臣歼灭太平贼子’，皇上定准奏。此外，湖广总督为吴文熔，是先生当年的阅卷老师。他常在小弟面前提及先生，称赞先生才华盖世、一腔热血，为大清朝少有的忠臣。先生如需他出面调解与骆秉章的关系，吴大人不会推辞的……”
读完来信，曾国藩热血沸腾。
原来，他太低估自己了。有人打击、排挤他，也有人钦慕、赏识他。
谁说人情薄如纸，原来也有重情人！
手中有钱又有权，曾国藩还犹豫什么呢？
借江忠源之名，他公开地、大量地招兵买马。一个月后，兵勇已达五千多人。对此，湖南人的表现有所不同：巡抚骆秉章不表态，提督鲍起豹恨得咬牙切齿，布政使徐有壬冷嘲热讽，按察使陶恩培恶毒攻击。
对此，曾国藩不予理睬。
他一心要训练出一支有较强战斗力的军队，这个军队不是乌合之众，而是新型正规军。它不同于腐朽、软弱的绿营军，也不同于将骄兵惰的八旗兵，它能对付强大的太平军，为大清收复众多失地。
这个军队属于他自己，应称为“湘军”或“曾家军”。
一支军队有武将，还要有文官。曾国藩写信给老同学李元度，请李元度来营中任军师。李元度是他在岳麓书院读书时的同窗好友，与郭嵩焘、刘蓉、罗泽南等人也十分交好。
李元度带来了一个人，他便是曾国藩的“学生”——陈士杰。
陈士杰，湖南桂阳人，道光末年进士。当年京城会试，曾国藩为其阅卷，他们从此有了“师生之名”。去年，陈士杰父丁忧回乡守制，他早想投笔从戎，又怕老师曾国藩不接纳自己。当李元度启程赴衡阳时，陈士杰鼓足了勇气，要求一同步入戎马生涯。
曾国藩热烈欢迎两位儒生的到来。他们到了军中，便形成了以曾国藩为核心的“岳麓书院书生指挥部，”这对湘军的发展壮大与军纪建设十分有利。
“书生指挥部”的首脑分析了绿营军与八旗兵屡遭惨败的根本原因是将骄兵惰。而形成这一现象的主要“土壤”是将与将不和睦、卒与卒不熟悉。若要把湘军建设成有强大战斗力的新型军队，非避免这些问题不可。
五千兵勇中，新招来的尚需加强训练，老兵则要改造。尤其是塔齐布带来的那五百人中，有四分之一人沾染了绿营军不良习气。其中二三十人品行尤其恶劣，非改造他们不可。
提高军队的作战能力，将帅是关键。曾国藩虽然进士出身，他对军队建设不太内行，但是他能够虚心请教，逐步培养并提高自己的军事能力。他认为旧式军队在战场上往往是一团散沙，没有统一的指挥势必导致“胜则相忌、败不相救”。
作战讲究呼吸相顾、痛痒相关，赴汤蹈火、同生共死。要做到这一点，必须改“兵为国有”为“兵为将有”。曾国藩等人曾在塔齐布的军营中进行过调查，结果发现老兵存在着一个观点，即“当兵为的是糊口”。有不少在家之时，因吃不起饭才愿意出来当兵的。
有这种思想的人岂肯为大清朝卖命，每当上了战场，他们便躲在安全地带保全性命或偷偷地跑掉。罗泽南吃惊地问他们：
“战场上开溜，不怕被上司逮住严惩吗？”
老兵当然不可能承认自己也在这么干，他们就像讲别人故事似的，笑着回答：
“当然不怕！”
“为什么？难道说绿营军军纪松弛到这般地步？”
“那怎么可能，绿营军一旦发现逃兵格杀勿论。有时，一个兵逃了，还殃及全家人。”
罗泽南纳闷儿了。在他再三追问下，老兵才道出原委：“之所以敢逃，是因为没有人认识逃兵。由于将领们勾心斗角、争权夺利，无暇接触士兵。一个军营中，除了老乡之间比较熟悉一些，其他人谁也不认识谁，将领们更不认识我们。他们不关心士兵也好，逃跑时危险性小一点。”
言语之间，老兵得意神情似乎比失落之感还强一些。
怪哉！一个军营中，将领与士兵居然陌生到这般地步，战场上能打败敌人吗？
罗泽南向曾国藩提供了应该吸取的教训，于是，曾国藩着手改革军制的首要任务是兵为将有。
湘军的将领应具备以下几个方面的素质：会治军、不怕死、不求名、不贪利，能吃苦耐劳，有忠义血性。
曾国藩令人将布告公布于众，由大家推选“基层领导”。这下子，军营里一下子热闹了起来，有互相推荐的，有毛遂自荐的，有公开选举的。
“基层领导”叫“什长，”什长可带十个兵，是军队里最小的官，但却是很重要的人物。他在士兵面前要有绝对威信，在哨官面前要绝对服从命令；哨官的顶头上司是营官，一个营有十个哨，每哨五十人；营官必须服从统领的指挥；统领服从于大帅；大帅服从于“书生指挥部”。
“书生指挥部”的核心人物是曾国藩。
于是，从曾国藩到士兵，有大帅、统领、营官、哨官、什长各级“领导”构成一个严密的“网络，”这比大清的正规部队管理起来方便多了。此外，他们还明确规定下级服从上级，越级不得行使职权。一军之权全付统领，大帅不能直接遥控营、哨；一营之权皆属营官，别人无权干涉。
各级长官各司其职，一旦发现玩忽职守者轻则批评、教育，重则仗罚，更严重者革职问罪，甚至砍头；同时，不管哪级长官取得了成绩，一律予以奖励，有物质方面的，也有精神方面的。少则白银几两，多则赏银数十两，并予以公开表彰。
这样以来，湘军各级领将纷纷投入最大的热情、使出各种招数，努力做出优异的成绩，以求全军统领——曾国藩能多看他几眼。
有了与绿营军、八旗兵完全不同的将领，还要有与绿营军、八旗兵完全不同的士兵。将与勇齐心协力才可能取得巨大的胜利。招募新的兵勇时，曾国藩一贯主张以亲缘、地缘作为军队的凝聚力。避免出现国家正规军那种现象：兵与兵关系疏远，械斗事件屡禁不止。
暗地里，曾国藩曾对罗泽南、郭嵩焘、刘蓉、曾国葆、塔齐布等人说：
“打起仗来，除了要求士兵冲锋陷阵、英勇无畏以外，还要求他们有同生死、共命运的精神。为什么绿营兵会出现胜则相忌、败则不救的反常现象？只是因为他们之间缺乏团结、协作的精神，没有‘一家人’的亲情纽带。我们的湘军是一个大家庭，每一位士兵不是我们的兄弟，就是我们的儿子。对于自己的亲人如何相爱、相救，就应该怎么对待我们的士兵。”
众人皆点头赞同他的观点。他们在招募兵勇时，注意血缘与地缘的特殊纽带，使湘军成为一个团结的大家庭。曾国藩认为新宁、长沙一带会党活动频繁，农民受其影响较大，所以不宜在这两地招兵。而自己的家乡湘乡县地处偏僻，农民思想比较落后，易于感化，可以多招一些。
而且，每位兵勇都要写清详细的家庭住址，父母、妻子、儿女姓名登记在册，必须取保具结，以便清查。万一有人逃跑，也是“逃了和尚，逃不了庙”。
四弟曾国葆片面地理解了大哥的意思，仅仅十来天就从家乡湘乡县带来三、四百人。曾国藩“阅兵”时发现其中掺杂着不少游手好闲之徒，他冲着曾国葆大发雷霆：
“你是个死脑筋吗？为何招来一批游手好闲之徒？”
曾国葆好委屈，他争辩道：“你不是强调以亲缘、地缘作为纽带吗？我带来的全是高湄山人，有不少就是我们的远房亲戚。”
“饭桶！你只知其一，不晓其二。以亲缘、地缘作为纽带不等于说地痞、流氓、匪徒全带来。我们要净化军队，不允许掺进‘杂质’。”
罗泽南在一旁解释道：“国葆，你大哥说的有道理。招募兵勇宜选那些偏远山区憨厚、朴实的农民，那些游手好闲之徒岂肯沙场拼杀，招来他们只是累赘，白白消耗军饷。”
曾国葆自知有错，他低下了头，小声问：“人都招来了，如何处置他们？”
“每人发三两银子，打发走算了。”曾国藩头也不回，他还得去别处“阅兵”。背地里，留下来的士兵议论纷纷，他们不由地对曾国藩敬畏起来。
将领选定了，兵勇招足了，下一步的工作便是加紧训练。训练、训练，有“训”，还要有“练，”两者缺一不可。
曾国藩虽是儒生出身，但如今他组建湘军，俨然成为武将了。按照他的话来说，这叫“改行，也要改出个内行来”。他也算是聪明人，深知带兵打仗光靠精湛的武艺、勇敢的精神还不行。动之以情、晓之以理，让兵勇心甘情愿地流血、拼命才是好统帅。
书生带兵打仗总忘不了一个“训”字，通过训话使兵勇明白为何要征战南北，为何会流血、拼命。而训话正是曾国藩的特长！
每逢初三、初八日的晚上，曾国藩便身着整洁的长袍，文质彬彬地走上阅兵台，面向五千兵勇，扯开他那微微沙哑的嗓门儿，大声训话：
“各位兵勇：大家辛苦了！今天，我们再来讲一讲各位对大清的贡献、对家乡的奉献。众所周知，近几年我们湖南境内时常有匪徒作乱，加之粤匪惑众，广大老百姓受其蒙蔽也跟着瞎起哄，扰乱了乡间的平静秩序。你们恨不恨那些匪徒？”
台下鸦雀无声。
“恨！我们恨之入骨！”曾国葆的妻兄带头喊了一句。他是个营官，于是，全营五百人皆大叫：
“恨！我们恨之入骨！”
别的营官也鹦鹉学舌般的叫了起来，全军沸腾了，一个个兵勇扯开喉咙大叫不止。曾国藩喜上眉梢，他的情绪也被调动了起来，继续训话：
“既然恨那些匪徒，就要坚决消灭他们。可是，粤匪不会善罢甘休，他们在精神上麻痹大家，说什么‘天下男子皆兄弟、天下女子皆姐妹’。这符合纲常伦理吗？父亲和儿子能是兄弟吗？母亲和女儿能是姐妹吗？这真叫瞎扯淡！在战场上，他们又忘了你们是他的‘兄弟’，杀呀、砍呀！手下丝毫也不留情。他们的谣言惑众还能得逞吗？”
不愧为翰林出身！
曾国藩不但偷换了概念，把广义的“兄弟”、“姐妹”说成是特定意义的“兄弟”、“姐妹”。而且，他还雅的、俗的一起来，把无知、憨厚的农民哄得晕头转向。
人们的情绪再次高昂，曾国藩说得更带劲儿了：
“大清的江山是属于皇帝的，我们是皇帝的子民，忠于皇帝老子就是忠于我们生活的这片土地！皇恩浩荡才有了我们今天的安康，要保住安康的生活，必须保卫大清朝廷。古人云‘普天之下莫非王土，率土之滨莫非王臣’。你们说，能让粤匪和乱党贼子夺去大清的江山吗？”
众人惊叹：呀！我们的统帅懂得这么多、这么深的道理。
也许，士兵们听懂了；也许他们根本就没听懂什么是“普天之下莫非王土，率土之滨莫非王臣”。不过，一个个都像听懂了似的，有几个人欢呼雀跃，全体士兵便跟着欢呼雀跃。
几个绿营军的老兵悄悄地对新兵说：“过去，长官用火枪顶着我们的后脑勺上战场。今天，我们终于明白了为什么要上战场，真要多谢曾大人的耐心开导。”
曾国藩心里乐滋滋的，他企图以“仁”、以“礼”治军的目的终于达到了。
通过训导，兵勇们的斗志被调动了起来，下一步的工作便是操练了。虽然曾国藩在京城做了十二年文官，对于带兵打仗知之甚少，但是，他手下笼络了一大批武将，他们对军队的操练个个是内行。
满将塔齐布认为：操练时不仅要注意提高士兵的枪、箭、刀、棒、叉使用技能，还应教会他们如何冲锋、如何跑坡、如何抢旗、如何跳沟、如何射击……
此外，布阵、射击、埋伏、扎营、筑垒等样样要会。
曾国藩听得十分仔细，听完以后他竖起大拇指，夸奖塔齐布：“你乃湘军第一将帅也。就按你的方法操练，逢三、六、九日练武艺、阵法；逢二、八日练习跑跳；逢一、四、七日学射击。全军严阵以待，进行严格的操练。”
从绿营军中带来的另外一位武将杨载福也全力以赴地投入了操练，仅仅两个多月下来，湘军就大有进步。罗泽南、郭嵩焘、陈士杰等书生将领也学会了“十八般武艺，”曾国藩甭提有多高兴了。按这个速度算起来，不出一年半载，湘军便可以外出作战了。
四弟曾国葆进步也很大，他虚心向塔齐布、杨载福二人求教，却得罪了年轻气盛的王。王是罗泽南的门生，但他不是地道的“书生将领”。以前，他就带过兵、打过仗，并有屡建战功的光辉历史。他跟随罗泽南带兵投到曾国藩部后，曾经一度颇受“恩宠”。
王居功自傲，常在曾国葆面前卖弄武艺，曾国葆也曾佩服过他。不久，曾国葆盯上了塔齐布、杨载福二人，并拜他二人为师。曾国葆与王两个人各带一个营，操练时，被冷落的王鑫处处与曾国葆作对，以至发生过一点小磨擦。
曾国藩知道此事后，把四弟狠狠地训斥了一顿，并要求四弟向王赔礼道歉。曾国葆不敢违抗大哥，便至王营中赔礼道歉。
刚刚踏进营区，他就听见几个人高声叫道：
“押注、押注！谁还押注呀？”
“我押！刚才，我输了两文钱，不捞回来不行。”
曾国葆眉头一皱，因为军中严禁喝酒、dubo、嫖娼、打架、偷盗。一经发现有人违纪，立刻予以重罚。可是，这是王的军营，自己无权过问，还是请王出面制止dubo事件吧！
王不在军中，他到老师罗泽南面前诉苦去了。罗泽南就事论事，批评了学生，说王气量太小，不要在小事上与曾国葆斤斤计较。王满腹委屈无处诉，又遭老师一通批评，心里更窝火。他气呼呼地回了军营，也太凑巧了，王与曾国葆“狭路相逢”。
曾国葆刚想和他打招呼，王头一扬，不准备理睬他。曾国葆猜出了七、八分，他离开了王的军营。王又不是聋子，他一进军营就听见了士兵大喊大叫，他以为曾国葆刚才是来密探的。气不打一处来，他先冲进军营把几个赌徒给绑了，又冲出军营来追曾国葆。曾国葆莫名其妙，还没等他反应过来是怎么一回事，双眼就被王封上了。王边打边叫道：
“探子，回去报告你那至高无上的大哥吧！就说我王军中不但有赌徒，还有淫棍、烟枪、酒鬼。我就喜欢养这些人，你们能奈何得了我吗？”
曾国葆岂是善茬儿！他回过身来，也给了王几拳。
两个营官扭打一团，极大地败坏了军纪。曾国藩怒不可遏，他下令关王和曾国葆的禁闭，三天三夜不给饭吃，让他们好好思过。
罗泽南又气又心疼，他一急之下病倒了。五天病愈后，曾国藩非常痛心地告诉他一件事：王带了五百湘军出走了。据说，他投靠了骆秉章。
“不肖学生，气死我了！”罗泽南老泪纵横。
为了防止类似事件再发生，曾国藩告诫全军将领：军营中杜绝dubo、打架、抽大烟、酗酒、嫖娼、抢掠、造谣、搬弄是非等不良行为，提倡互助、互爱、勇敢、耐劳、朴实、忠诚等优良作风。并明文规定：
一、每日坚持操练者，发一文钱；
二、每日搞好内务者，发一文钱；
三、射击中二十靶，赏一文钱；
四、检举不法分子，并抓获不法分子者，赏一文钱；
五、临阵杀敌一名者，赏银八两；
六、临阵杀敌两名者，赏银十八两；
七、伤头者赏十两、伤身者赏二十两、伤腿脚者赏十两；
八、阵亡者，抚恤银五十两、埋银十两；
九、dubo、打架、抽大烟、酗酒、嫖娼者罚银一两；
十、持刀抢劫、拦路敛财者罚银五两；
十一、临阵逃脱者，棍打四十，罚银十两，革除；
十二、叛军投敌者，逮住立刻砍头。
此举措赏罚分明，让湘勇无可挑剔。告示一公布下来，士兵们纷纷拥护。尤其是那些家境贫困的人，会更加努力参加训练，以求更多的赏银。
咸丰三年夏，曾国藩的湘军陆战军逐步走向成熟。
此时，约有士兵五千人，共十个营。分别由塔齐布、罗泽南、邹寿章、周凤山、储玖躬、曾国葆、朱孙饴、邹士琦、杨名声、林源恩等十人带领。
曾国藩在衡阳加紧练兵之际，安徽、湖北、江西一带的绿营军正拼命阻挡着太平军的北伐和西征。江忠源部和吴文熔部已濒临绝境。
对此，曾国藩深感不解。江忠源的军队不是纯粹的绿营军，而是绿营军与新宁兵勇混合部队，其作战能力不算太差，为什么会败在太平军的手下？
曾国藩派郭嵩焘前往慰问，并送上白银三百两以示关心。郭嵩焘很快就回来了，他带来了一个全新的观点：若要打败太平军，非建水师不可！
曾国藩一下子陷入了沉思之中。对于太平军的水上作战能力，他早有所闻。
一年前，即咸丰二年初秋，太平军攻打岳州、益阳的时候从那里弄到民船几千只，洪秀全决定改民船为水师。曾国藩没有认真分析过这件事情，他朦胧的感觉到自己也应该建立一支有较强战斗力的水师，可是，由于资金缺乏未能付诸行动。
郭嵩焘从江忠源那里回来后，他把自己对太平军水师的最深切感受告诉了曾国藩。他说：“江忠源的军队，作战不可以说不勇敢、指挥不可以说不利，其失败的主要原因是兵种单一，无法和作战灵活、多变的太平军抗衡。太平军不仅训练了一支过硬的陆军，他们还训练了一支过硬的水师。在武昌一带，我亲眼所见太平军水师千船百舸，蔽江而下，游弋自由、往来迅捷。江忠源的军队无法与之相媲美。”
曾国藩心中一颤，他想：“江忠源的军队无法与太平水师相媲美，这是我应该吸取的教训。虽然我建立的湘军陆战队有一定的作战能力，可是和太平军交手时，万一碰上太平水师，不也一样要惨败吗？如此说来，郭嵩焘的建议很有参考价值。”
与此同时，湖广总督吴文熔、江西巡抚江忠源分别向咸丰皇帝一次次地上奏，请求朝廷拨出银两建清军内江水师。他们清醒地认识到若想尽快消灭太平军，非以其人之道，还治其人之身不可！
虽广东外海水师也亟待扩充力量，不过，咸丰皇帝想了想还是认为镇压太平军是当务之急。洋鬼子再闹腾，无非是想多占一点“小便宜，”他们威胁不到皇位；但是，太平天国运动直接威胁了龙椅上的大清皇帝，随时都有可能把爱新觉罗氏从皇位上拉下来。无奈之下，咸丰皇帝咬了咬牙，将拨给广东水师的四万两白银挪用给湖北、湖南、四川三省，谕令三省尽快组建内江水师，以对付太平军。
吴文熔接到四万两白银后，命令江忠源付诸行动。江忠源岂敢怠慢，他与湖南巡抚骆秉章一商议，决定拿出三万五千两建立绿营水师，另外五千两送给曾国藩，请曾国藩建立湘军水师。江忠源与曾国藩不谋而合，他们立刻投入了组建水师的“战斗”。
有了训练陆军的丰富经验，训练水师还难吗？
曾国藩充满了乐观主义精神，不久，他就碰了壁。这时，他又一次深深地体会到“干什么事情都不容易”！
首先是招募水勇就遇到了麻烦。湘潭、郴州、桂阳一带人水性很好，但那几个地方多会党，地方势力很大。曾国藩担心从那里招来的水勇不服管教，万一会党分子混入其中，将来后患无穷；湘乡一带人虽然老实、憨厚一些，但他们不习水性，加上连年在家乡招募兵勇，所剩年轻力壮的小伙子已经不多了。
布告张贴半个多月了，前来报名者了了无几。眼见到了秋后（咸丰三年，1853年），湘军水师仍是“八字没划一撇”，曾国藩心里能不着急吗？
曾国藩和郭嵩焘、罗泽南、塔齐布、杨载福等人一商量，大家横下一条心：宁愿招不到水勇，也不在湘潭、郴州、桂阳一带滥招游手好闲之徒或会党分子！
天助曾国藩也！
就在这时，湘乡一带发生了百年不遇的旱灾，秋后几乎是颗粒无收。不少小伙子与其在家争亲人的那口饭或等着饿死，不如投靠老乡曾国藩。由于湘军陆勇待遇比绿营军好，也因为曾国藩善于循循诱导，所以在湘乡一带，曾国藩的口碑很好。
一时间，“投靠老乡曾国藩、有吃有喝也有穿”成了高湄山人的口头禅。几乎是一夜间，水勇招到了五千多人。
一看水勇，曾国藩心中十分欢喜。四弟曾国葆和大将领杨载福招来的全是健壮、魁梧的青年农民，一个个模样憨厚，无油嘴滑舌之相。这样的人吃苦耐劳，又不斤斤计较，只要加紧训练，很快便能出征。
第一个难题解决了，他们又遇到了第二个难题：五千水勇也应分为十个营，十位营官由谁担任？
眼下，有两位现成的水师营官，即杨载福和彭玉麟。杨载福是曾国藩从骆秉章手下带来的一位大将，此人死心塌地为曾国藩效力，又曾在广东外海水师里干过，他欣然地接受了任务。
彭玉麟，可谓是中国大清时期的传奇人物。在他入湘军水师之前，还有一段鲜为人知的故事：
彭玉麟，字雪琴，湖南衡阳人，其父早年在安徽合肥当过巡检。彭玉麟十六岁时，父亲因病去世，从此家道中落。他的母亲是位坚强、好胜的女人，发誓以纺纱为业，也要继续供儿子读书。等儿子长大成器以后，非把邻人强占他们的田地夺回来不可！
彭玉麟十分争气，不到二十岁就考上了秀才。由于时局不稳定，他不想再考什么功名，便到了衡阳县衙门充掌书记。干上文职以后，他却迷上了兵法，一有空闲便拿起《孙子兵法》来读，还对《公瑾水战法》兴趣十足。他动手画过布阵图，也喜欢在纸上来谈兵。别人见此情景，都嘲笑他是“兵痴”。
苍天有眼！一个偶然的机会，彭玉麟脱颖而出，成为衡阳一带小有名气的“军师”。
咸丰二年（1852），耒阳一带小股农民暴动，直接威胁到附近几个地区的富豪绅士，他们吓得浑身直发抖，跑来找知县陆传应，请求陆传应派守城绿营兵前往镇压“匪徒”。
陆传应手里只有一百多个守城兵，他能答应派兵吗？几个富绅又是磕头，又是作揖，无论如何也不肯回去。彭玉麟得知这一情况后，便毛遂自荐请求出兵。陆知县纳闷儿了，他说：“彭玉麟，虽然你在绿营军中充掌书记，但是，你从来就没带过兵、打过仗。再说，守城的这几个兵也不可能让你带出城，万一贼子趁虚而入怎么办？”
陆知县眉头一皱，给他使了个眼色，意思是说：“你千万不要逞能！光凭书上的那点兵法，你能对付得了暴动的刁民吗？耒阳离我们衡阳远着呢，我们犯得着牺牲自己吗？”
彭玉麟很想试一试自己的能力，他假装没看见陆知县的眼色，一拍胸脯说：
“耒阳是我们的近邻，唇亡齿寒，我们怎么能坐视不管。知县大人，请你放心吧：守城的兵，我一个也不带。只要大人准我十天、半个月的假，我会尽最大的努力平息暴动。”
“哼！”陆知县气得一扭头。他还好意思公开再阻拦吗？只好任彭玉麟瞎折腾。
原来，彭玉麟在干书记的同时，他还有个“第二职业，”即受雇于一富商人家。这家老板是生意人，家中常常是货进货出、金银成堆，没有家丁行吗？
彭玉麟向老板借了二十几个家丁，又从自己村子里带了三十多个壮小伙子，五六十人组成了一个“小分队，”在彭玉麟的带领下连夜赶到了发生骚乱的村子。彭玉麟在山坳里布了个陷阱，专等一群没有组织、没有口号、没有纲领、没有指挥者的“匪徒”钻进“口袋”。
彭玉麟有备而来，并布有阵法；“匪徒”麻痹大意又散乱无章，可想而知，彭玉麟大获全胜。“耒阳大捷”以后，衡阳一带彭玉麟名声大噪。
当地人称他为“彭葛亮”。
曾国藩打听到衡阳有个彭玉麟，便派四弟曾国葆前去邀请他共创大业。起初，彭玉麟有些顾虑，认为湘军声势浩大、人才济济，自己不是科班出身，到了军队恐怕会受到排挤。
他没有接受曾国藩的美意。
曾国藩仍不死心，派曾国葆再去请。大将军塔齐布有点不高兴了，他对曾国藩直言道：
“彭玉麟无非是一个乡间书生，他读了两本兵书，又带着几十个人平定了乡间暴动，摆什么臭架子。曾大人您看得起他，是他三生有幸。国葆屈尊前往，他还拒绝之。如今有必要‘两顾茅庐’吗？”
曾国藩右手托着下巴，沉思了一会儿，开口道：
“有必要！彭玉麟这个人，我非把他请来不可！虽然我从未见过他，但从别人那里听到的三言两语，就能感觉到那是个奇人。”
“奇在何处？”塔齐布问。
“此人乃一乡间秀才，在绿营军充掌书记，却熟读《孙子兵法》、《公瑾水战法》，这说明他热爱战争事业。一个人，无论他干什么事情，首先要有极大的热情，才能干得轰轰烈烈。此外，他不贪财，这是极少数人具有的优良品质。当彭玉麟平定了暴动以后，乡绅富豪纷纷送上银两或财物以表谢意，他一一拒纳。湘军多几个这样人，军可治也！”
塔齐布被说服了。他不是那种心胸狭窄之人，并没有因为曾国藩称赞彭玉麟而产生嫉妒之心。相反，他暗暗下定决心：
“不管彭玉麟来不来湘军任职，我都要向他学习，并号召士兵也向他学习。只有不贪财、不揽权、不好色、不贪杯、不抽大烟，才能全心全意地投入自己热爱的剿匪事业，才能有所作为。”
曾国葆“两顾茅庐，”彭玉麟还能再拒绝曾大人（曾国藩）的美意吗？
彭玉麟加入了湘军水师，杨载福热烈欢迎老朋友的到来。当晚，杨载福就高高兴兴地摆了一桌酒席，邀请曾国藩、罗泽南、郭嵩焘、塔齐布、曾国葆等人赴宴，大家开怀痛饮、畅谈未来。
既然彭玉麟与杨载福是一对老朋友，曾国藩决定让他二人各领一个营，以后作战时也能互相配合。另外八个营官是：褚汝航、夏銮、胡嘉垣、胡作霖、成名标、龙献深、邹汉章和诸殿元。
咸丰四年二月，以上十个营官各统领五百人，湘军水师正式成立。
有了水兵，有了将领，却没有战船。
曾国藩决定立刻建立衡阳造船厂，新造或改装战船，把湘军水师尽快装备起来。听说广西候补同知褚汝航和岳州守备成名标曾在广东外海水师干过，他便令这二人仿照广东战船，监督湘军造战船。
这时，又从广西买来了上等的木材，大家一齐动手，砍的砍、锯的锯、钉的钉，一艘艘战船很快建成。与此同时，他们还利用民船进行改装，把从广东买来的洋炮装上，民船变成了战船。
求快，还要求好！
曾国藩反复强调：“我们的对手是强大的太平军，他们有聪明的指挥官、有勇猛的士兵、有一定的作战经验，千万不能低估他们。据说，他们的战船非常坚实，那我们的战船就必须牢不可破！”
统帅下了死命令，谁敢不执行！湘军水师从武器的装备到水勇的训练可谓精益求精也！
几个月后，曾国藩检阅水师时，他看到湘军水师严阵以待，便高兴地问：“一共有多少条改装船、有多少艘新建战船？”
褚汝航回答：“共有战船三百六十一艘。其中拖罟（大战船）一艘、快蟹（小战船）四十只、长龙五十只、舢板一百五十个、改装了一百二十只民船。”
“洋炮多少门？土炮多少门？”曾国藩问得十分仔细。
杨载福脱口而出：“洋炮三百二十一门，土炮四百七十门。”
曾国藩欣慰地笑了。
洪秀全正在天京做他的“天王”，他麻痹大意了，未曾预料到自己将要遇上一个强大的对手——曾国藩。金田起义后，太平军几乎是节节胜利，也许他被胜利冲昏了头脑。