他是孔孟的忠实信徒，他所选的官佐都是他的忠实同志，他是军队的主帅，同时也是兵士的导师。所以湘军是个有主义的军队。其实精神教育是曾国藩终身事业的基础，也是他在我国近代史上地位的特别。他的行政用人都首重主义。他觉得政治的改革必须先有精神的改革。前清末年的官吏，出自曾文正门下者，皆比较正派，足见其感化力之大。
曾国藩不但利用中国的旧礼教作军队的精神基础，而且利用宗族观念和乡土观念来加强军队的团结力。他选的官佐几全是湖南人，而且大半是湘乡人。这些官佐都回本地去招兵，因此兵士都是同族或同里的人。这样他的部下的互助精神特别浓厚。这是湘军的第二特点。
历史上的精神领袖很少同时也是事业领袖，因为注重精神者往往忽略事业的具体条件。在西洋社会里，这两种领袖资格是完全分开的。管教者不必管事，管事者不必管教。在中国则不然：中国社会几千年来是政教不分，官师合一的。所以在中国，头等领袖必须兼双层资格。曾国藩虽注重为人，并不忽略作事。这是他的特别的第三点。当时绿营之所以不能打仗，原故虽多，其中之一是待遇太薄。曾氏在起始办团练的时候，就决定每月陆勇发饷四两二钱，水勇发三两六钱，比绿营的饷额加一倍。湘军在待遇上享有特殊权利。湘军作战区域是长江沿岸各省。在此区域内水上的优势很能决定陆上的优势。所以曾国藩自始就注重水师。关于军器，曾氏虽常说打仗在人不在器，然而他对军器的制造，尤其对于大炮的制造，是很费苦心的。他用尽心力去罗致当时的技术人才。他对于兵士的操练也十分认真。他自己常去督察检阅。他不宽纵他的军官，也不要军官宽纵他的部下。