和衷共济，上下一心
北宋刘书在《刘子·兵术》中说：“万人离心，不如百人同力。”宋人许洞也说：“和于国，然后可以出军；和于军，然后可以出阵；和于阵，然后可以出战。”
曾国藩不仅是从理论上，而且从以往的经验和教训中都认识到一个群体团结的重要性。他在给林源思的信中说道：“现在大营所调之兵，东抽一百，西拨五十；卒与卒不和，将与将不和；彼营败走，此营不救；此营败走，彼营不救；此营欲行，彼营顾止。离心离德，断不足以灭剧贼而成大功。”
曾国藩深恶痛绝的是八旗绿营彼此“败不相救”，他在给江忠源的信中说：“国藩每念今日之兵，极可伤恨者，在“败不相救”四字。彼营出队，此营张目而旁观，哆口而微笑。见其胜，则深妒之，恐其得赏银，恐其获保奏；见其败，则袖手不顾，虽全军覆没，亦无一人出而援手拯救于生死呼吸之顷者。”
关于这一点，早在衡阳练军的时候他就已经充分认识到了，他说：“今欲扫除更张，非万众一心不可。”
因此，他认为绿营军的种种恶习、积习、陋习必须一扫而光，他制定了“别开生面，斩断日月”、“改弦更张，赤地立军”的方针，立誓要创建一支崭新的军队。为了他新建团体的“纯”，曾国藩招募湘勇、组建湘军时，决定一个绿营兵也不要，他怕“一根鱼腥一锅汤”，怕勇丁染上官兵习气。