咸丰二年（1852），太平军日益壮大，已经由广西省进入湖南，准备攻打长沙。当时湖南巡抚骆秉章奉命调京，由张亮基继任，张鉴于湖南局势严峻，责任非同小可，便广搜人才以备顾问，并协助处理军政事务。胡林翼得知这一消息后，便将乡中有真才实学的人士列名推荐，在推荐信中对左宗棠特别称赞：“前举衡湘之士七人。左子季高则深知其才品超冠等伦，曾三次荐呈。此人廉介刚方，秉性良实，忠肝义胆，与时俗迥异。其胸罗古今地图兵法、本朝国章，切实讲求，精通时务。访问之余，定蒙赏鉴。即使所谋有成，必不受赏，更无论世俗之利欲矣。”张亮基这时正由云贵向长沙进发，到常德时，就赶紧派人到湘阴东山白水洞，请左出山。左复信辞谢，没有答允。胡林翼又写信对他说：
张中丞两次专人备礼走请先生，一阻于兵，一计已登鉴，昨得中丞八月廿三日乔口舟次信，言‘思君如饥渴’。中丞肝胆血性，一时无两。林文忠荐于宣宗皇帝，以是大用。先生最敬服林文忠，中丞固文忠一流人物也。去年冬，曾以大名荐于程制军而不能告之先生，固知志有不屑也。林翼非欲浑公于非地，惟桑梓之祸见之甚明，忍而不言，非林翼所以居心。设先生屈己以救楚人，所补尤大，所失尤小。区区愚诚，未蒙深察，且加诮让，且入山从此日深，异哉！先生之自为计则得矣。先代积累二百年，虚生此独善之身，谅亦心所不忍出也。张中丞不世奇人，虚心延访，处宾师之位，运帷幄之谋，又何嫌焉。设楚地尽沦于贼，柳家庄梓木洞其独免乎？
这样一封情词恳切，既有劝说又有批评、既是朋友又是亲戚的来信，终于打动了左宗棠，使他不能再犹豫。加之同住山中的郭嵩焘和左宗植也不断劝其对张巡抚两访求贤之事，实在应当成全其美。而长沙守备江忠源也来信敦促，这才使左宗棠决定应聘出山一试。
左宗棠这时已经41岁，他在围城中晋见了张亮基巡抚，两人握手言欢，一见如故。张公随即将全部军事委托给这位新来的“参谋长”。从此，他的各种建议不仅都能被张采纳，并立刻付诸实施，其知识和才能也得以施展，有了用武之地，一生功名也便由此开始。
其间，太平军围攻长沙三月不下，便由龙回潭去宁乡绕益阳，破岳阳顺流东下武昌。其间，左宗棠在参谋策划用兵的同时，还向张巡抚提出了整饬吏治的建议，并被其完全接受，而同时许多谋划策略也大都按左宗棠的方略行事。
咸丰三年（1853）初，张亮基升任湖广总督。湖广实指湖南、湖北而言，左宗棠也一同前往武昌。当时，太平军已经放弃武昌，沿长江，攻安庆，下江宁。张亮基到任之初，修城郭、筹兵饷、通商贾、恤难民、整吏治、除积弊、奏折批答，诸多事宜，皆交给左宗棠一人主持。张亮基并以左宗棠防守湖南有功上报，得旨可以知县名义，按“同知”使用。不料军事瞬息万变，不到半年江西便告急，张遂亲自去黄州府（今黄冈县一带）坐镇，设防田家镇。左宗棠又一次随同前往，为其出谋划策。后来张亮基奉旨调至山东，在山东时因性格刚直，与满族贵族胜保不合被诬参落职，左宗棠也辞职返湘阴。
新任湖南巡抚骆秉章，得知左宗棠又回到了湘阴老家，曾几次派人送书信和路费请他出山，但左宗棠都没有答应。曾国藩于咸丰四年（1854）二月，亲率水陆大军六万人从衡阳出发，镇压各路太平军时，也写信前来邀请，但他还是推辞不就，直到太平军攻下湘阴，派轻骑到梓木洞搜索捉拿，左宗棠闻讯后在白水洞再也呆不下去了，这才带领一百名湘勇，护送家眷亲属出走湘潭。但太平军已于先一天占领该地，左宗棠一家只得又转趋辰山避难。而左宗棠则带着女婿陶桄去了长沙。
骆秉章没有得到左宗棠，于心不甘，不久又生出一计。他知道左宗棠对陶桄最疼爱，一天，便发请柬请陶桄到巡抚衙门作客，并趁机将他留住后花园，不让出门。同时，又派人在外扬言，说巡抚“勒使公子捐资巨万，以助军饷，否则将加侵辱”。左闻讯后大骇，急忙赶来抚署请见。骆秉章一听大喜，“倒履迎之”，陪左宗棠来到后花园。左见爱婿无恙，后花园“栋宇辉煌，供张极盛，如礼上宾”，这才知是骆秉章请他出山的苦心，遂“感其诚意”，才应允出佐戎幕。骆秉章见左宗棠肯首，便向陶桄道歉，并以仪仗送回陶府。
左宗棠第二次入佐湖南巡抚幕府，长达六年之久。六年中，他深得骆秉章倚重，使其学识才干得到了充分的发挥，从而在清廷朝野获得了很高的声誉。
左宗棠入署办公时，曾国藩正召集会议，商讨进军计划。大家都认为应当先从湘江北上，进攻太平军在靖港的驻地，唯独左宗棠主张先收复在长沙西南面的湘潭，腾出原来打算增援长沙西面宁乡的四千兵力，再加水师五营，两面出击。这一仗果然获得全胜。而曾国藩亲自进军靖港却出师不利，一气之下，又投江自尽，幸被人救起，才免于一难，后只得退回长沙。左宗棠随即到船上去见他，收点战余的船只、军械和火药等，并劝他“事尚可为，速死非义”。后又经过一连串的布置，才解了湖南之危。
但这时的左宗棠又重萌退隐之意，他在给女婿陶桄的信中说：“长沙大局略定，思更名隐姓，窜匿荒山，而中丞（指骆秉章）推诚相与，军事一切，专以相付，不得不留此更相支持。”平心而论，骆秉章和张亮基一样，对他言听计从，对其军事策划无不信任，对他所行文书画诺，概不检校。能取得这样的信任，自然可以放开手脚大干一番。因此，左宗棠才以“士为知己者死”的劲头，一直在骆秉章幕下襄办军务，前后达六年之久。
左宗棠素通兵法，他深知自古兵法，“谋定而后战”，“善用兵者致人而不致于人”。他主张清军应在太平军营地附近广筑碉堡，步步为营，渐逼渐进，迫使太平军离开营垒，改守为攻，如此则清军可以反客为主，由被动变为主动，抓住两军作战的首要问题，争取主动权。所以，左宗棠在骆幕府不到一年，湖南境内军事便大有转机。作为湖南巡抚的军师，左宗棠对湖南的战略地位有一个比较清醒的认识，并据此制定出一套以攻为守，积极组织出省作战，拒太平军于湖南省境外的战略方针。而一旦进入，也应以积极的进攻迫其撤出湖南。这种方针，既有利于湖南地方，也有利于清政府对太平军作战的大局。控制住湖南，也就稳住了湘军的战略后方基地，这对于主战场战局的发展是非常重要的。
但是，邻省广东、广西、湖北、江西各路却频频告急。当时湖南良将精兵多随大军东征，所有粮饷、军械、船舶等都需仰仗湖南供给。左宗棠一方面协助骆亲率内谋守御、外筹军备，费了不少心血；另一方面还要充实军饷军械，制造船炮，补充水军。但当时，在经济上因军事支出浩繁，清政府只得铸大钱和发钞票来应付。若要改变这种局面，就必须开辟财源，增加收入。咸丰五年（1855）四月，骆秉章仿照扬州仙女镇设厘金所的先例，设置厘局，向商贾征收厘金，以充军饷，并委由左宗棠亲自布署，按照商品价值收取百分之一。银一两的百分之一为一厘，故称厘金，实际上是一种商业税，主要在水陆交通要道设立关卡来征收。但根据当时的财政支出情况，左宗棠决定开征厘金按百分之二收取。而且关卡不用私人，招请廉洁朴实的士绅来管理，废除衙署关务的一切旧规章，并由民兵和水军船只来卫护商旅。各关卡厘税收支情况，则按月张榜公告，并由省厘金局总其成，每年共得厘金80至120万两，专以充实军饷，以保障湘军后勤供给。有记载说：咸丰六至八年，湖南协济江西的饷银达291万多两。
同时，左宗棠又协助办理减漕，废除向农民征缴漕粮的一切陋规，另定减免办法。漕粮是旧时田赋的一种，按例须缴纳白米转运进京，后因长途运输所费浩繁，便改用银钱折价征收。清政府原规定，漕米折银，每石为一两三钱。但湖南漕粮浮收的情况极为严重，每石竟高达银六两之多。官私从中取给，殊不一致，积弊难除。加之当时谷价贱，银价贵，农民负担不起，欠缴钱银越来越多，加重了财政上的困难。因此广泛征求各方意见，根据各县士民呈请他们自己拟定的的漕粮办法，决定取给的标准，至为重要。左宗棠经过细致调查后，大致按照清政府每石谷折收银一两三钱的规定，加纳一倍以充军需，再加纳四钱归各县留用。这样，漕粮征收之数，每石不超过银三两，减轻了农民的负担，同时充实了军饷，各县开支也得到一些补充，一扫以前漫无标准，浮收滥取的弊病。这样全省每年可增加税收20余万两白银，而农民反比从前少交赋税上百万两。结果，财政困境有所缓解，农民负担也有所减轻。左宗棠在经济上的两大措施（抽厘、减漕）收到了明效，使骆秉章督抚湖南支持邻省得以应付自如。左宗棠的声名也因此而日渐传开了。