位於南嶽衡山南麓的衡州城，是湖南僅次於長沙的名城。
湖南古有三湘稱。何謂三湘，其說不一。有一種說法是：瀟湘、蒸湘、沅湘合為三湘。衡州城正是蒸水與湘水的匯合處，為兩廣門戶，扼水陸衝，物產富庶，民風強悍，歷來是兵必爭。曾國藩對衡州特別親切，這是因為他一來祖籍衡州，二來歐陽夫人是衡州人，三則他少年時代曾在衡州求學年。來衡州，曾國藩同回湘鄉，有一種魚游海、虎歸深山感。
衡州城西門外蒸水濱，有一片寬闊的荒，當百姓稱為演武坪。這是當年吳三桂在衡州稱帝時，為演兵開闢的，後來便為歷代駐軍的操練場，比長沙南門外練兵場。曾國藩他帶來的一千號團丁，便安紮在演武坪旁邊的桑園街，指揮所設在桑園街一棟趙姓祠堂裏。為便於日常商討，他羅澤南、王錱、李續賓、李續宜、康福、江忠濟及滿弟國葆等住在祠堂裏。
這午，曾國藩吩咐王錱佈置指揮所後，便帶著羅澤南等人拜訪衡州知府陸傳應。在知府衙門裏吃完午飯回來，曾國藩老遠就聽見趙祠堂前鞭炮轟響。羅澤南笑著對曾國藩說：「璞山辦幹，就是有點喜功的毛病。其實不必搞這的排場，像金號開張一樣。」
羅澤南身酷貧，又篤信理學，持身處一向節儉，在這點與曾國藩甚是相投。曾國藩點點頭說：「關鍵是勇練，這種虛排場不擺。」
王錱見曾國藩回來，滿面春風迎前，說：「曾人，木牌子一時做不來，我們這樣的一個衙門，豈沒有招牌？我一邊叫木匠趕快做，一邊先紙寫了糊來。為圖個吉利熱鬧，買了幾萬響鞭炮慶賀慶賀。」
曾國藩祠堂正門右邊，已從頂底糊一長條紅紙，面顏體端端正正寫了一行字，字字飽滿穩當，王錱的手筆：「欽命團練臣曾統轄湖南湘軍總營務局」。為招牌一，王錱思考了一午，最後定這十七個字。他認為堂堂皇皇，很有氣派，中甚是意，正期待著曾國藩的誇獎，見曾國藩兩掃帚眉慢慢鎖緊，說了句「璞山跟我進來」，便徑直向祠堂裏面走。王錱頭一涼，跟著進了屋。
待王錱進門後，曾國藩板著面孔說：「璞山，這麼的一件，你何不問我便主張，你知犯了錯嗎？」
王錱不三十歲，高才，常謂一息尚存，即當萬世為念，雖連個秀才未撈，卻儼主宰浮沉的人物居。他這種氣魄很羅澤南的賞識。在羅澤南來，王錱是他眾才氣橫溢的弟子中的一人，比孔門七十二賢中的顏回。王錱不認為己寫的招牌有什麼錯，不服氣說：「卑職不知有何過錯。」
對王錱的文武才，曾國藩很欣賞。他意識剛才過於嚴厲了，便放鬆面皮，略為緩說：「你先坐吧！」
王錱在曾國藩對面坐來。曾國藩耐著子細細說：「璞山，你這個招牌氣派是夠氣派了，但有兩個的差錯。欽命說的是幫辦團練，『幫辦』二字，定了主從關係。巡撫駱人是主，我是協助。你何偷梁換柱，擅掉『幫辦』二字呢？此其一。二，我們辦的是團練，不是軍隊，怎稱湘軍？這不是在公告眾，在綠營外另建軍隊嗎？
羅山你們在湘鄉練的勇，人稱湘勇。今後，我們這批團丁稱湘勇，一來湖南簡稱湘，二來紀念湘鄉練勇的開創功，但決不稱湘軍。璞山，你有沒有過，這一『幫辦』，改『勇』為『軍』，將會授人柄啊！」
王錱是個聰明人，經曾國藩一提醒，立即認識問題的嚴重，趕緊說：「卑職一時考慮不周，我這就叫人撕。」
王錱剛門，曾國藩又叫住他：「璞山，你的顏字越寫越了，木牌幾才製，還借你的筆再寫一幅先貼著。」
「寫幾個什麼字？」
「還寫原來的老招牌：湖南審案局。」
離開長沙前夕，駱秉章在曲園酒擺筵席，為曾國藩及團練全體哨長的頭目餞行。徐有壬、陶恩培、左宗棠糧、鹽等官員席陪，鮑豹清德卻拒絕參加。
久游宦海的曾國藩十分清楚駱秉章等人的世故，但他不與駱秉章撕破臉，於是帶著眾頭目欣席。駱秉章裏果高興，二人並肩坐在一暢談，同一對親密無間的朋友。
曾國藩深知借助駱秉章的重，招牌一處理後，便立即給駱秉章寫了一封信，向他報告團丁安置的情況，歡迎他隨時來衡州視察。接著，曾國藩又給郭嵩燾、劉蓉各寫一信，邀請他們來衡州共舉；又寫了一封信給黔陽教諭、平江舉人李元度。李元度字次青，曾曾國藩在嶽麓書院同窗。
曾國藩欣賞李元度的才思敏捷，請他來衡州幫辦文書；又寫了一信給正在桂陽州原籍守制的陳士傑。光二十八年，陳士傑拔貢京考京官，朝考時，閱卷臣正是曾國藩。曾國藩見他的策論議論風發，言有物，欣喜錄取了他。從那後，陳士傑視曾國藩為恩師。
寫完這幾封信後，曾國藩感覺疲勞。他在床躺了一，卻不合眼。一個更的計劃，需他盡快拿定主意，這就是今後何訓練這批湘勇。他在裏盤算著，己所山，目的是做李泌、郭子儀的業，此，必須有一支強兵勁旅，這支人馬雖不叫軍隊，稱練勇，但實際比八旗、綠營強。一千號人，無論何少了。但若一旦擴勇，便會立即招致非議。目前有十個省辦了團練，其他九省沒有湖南這樣的團，幫辦團練臣所直接掌握的團丁，不過二三百人。湖南已有一千餘人了，還擴，朝廷會不會同意？這是一。二，餉銀從何來？從洪楊，朝廷的經費便日感不支。這是曾國藩所深知的。朝廷撥錢，希望渺茫；駱秉章、徐有壬撥款嗎？不指望。曾國藩躺在床，被這兩難題困擾著，思前後，找不解決的辦法。
荊七推門進來，對曾國藩說：「人，剛才陸知府派人送來一封急信。」
曾國藩坐，從荊七手中接過信。原來，這信是新擢升為湖北按察使、正帶兵在江西前線與太平軍西征軍戰的江忠源寄來的。江忠源信說：長毛勢力強，征慣戰，打仗不怕死，又會收買人，很難對付。請曾國藩在長沙募幾千人馬，練精兵，早日開赴江西，補充他的楚勇。完這封信後，曾國藩了一個主意。
曾國藩興沖沖給江忠源回信，告訴他已來衡州練勇，請他向皇奏明，委託湖南幫辦團練臣在衡州招募五千勇丁，訓練軍，他指揮。「朝廷明文同意擴勇，餉銀的著落再辦法。」曾國藩，「至於不江忠源指揮，那還不是憑我一句話？我不給他，諒他不意思來硬。」
不久，郭嵩燾、劉蓉、陳士傑先後來衡州，曾國藩很是高興，他認為己給這幾個位不高卻才罕見的朋友，找了一個施展平生抱負的舞台。郭嵩燾告訴曾國藩，他在湘陰募集了一批軍餉，過幾個月便湊齊二十萬。李元度應邀來了。這個戴著深度近視眼鏡、個頭瘦的文人還帶來五百平江勇，一來便對曾國藩說，棄文就武，當營官帶兵打仗。曾國藩很欣賞他的這分勇氣。趁著批勇丁尚未齊的空隙，曾國藩羅澤南、王錱、郭嵩燾、劉蓉、陳士傑、李元度等人商討練勇。參照戚繼光的束伍法，結合目前的實際情況，制定詳細的軍條例。曾國藩又寫信給駱秉章，向撫標中軍借調塔齊布、楊載福、周鳳山三人。駱秉章同意了。不久，三人一同來衡州。曾國藩見文武人才濟濟，氣象興旺，中甚為興奮。一個月後，李續賓、曾國葆、金松齡從湘鄉募來二千五百勇丁，鄒壽璋、儲枚躬、江忠濟從靖州、辰州、新寧、寶慶等募來一千勇丁，連同過的一千人李元度的五百平江勇，合共五千餘人。曾國藩將這五千餘人分為十營，委任塔齊布、羅澤南、王錱等人為營官。為使官勇們一一意操練，曾國藩決定發厚餉。
在朝廷未撥餉銀前，曾國藩與衡州知府陸傳應商議，先修城牆的十萬銀子挪過來。銀子兌了現，官勇們操練有勁。曾國藩制定了嚴格的營規：每五更三點放炮，聞炮即，夜晚每營派十人巡邏；黎明演早操，營官、哨官必須親場；午刻點名一次；日斜時演晚操，二更前點名一次。每逢三、六、九日午前，曾國藩本人親演武坪監督操練，並訓話。從早晚，每演武坪塵土飛揚，殺聲不絕，衡州城裏的百姓奇怪，這是哪來的一支人馬，操練此認真、勤勉？年長的記，這塊荒蕪的演武坪，已經幾十年沒有吃糧的人在面操演了。