清自同治而后，与外国交涉益繁。每遇一严重交涉发生，朝野必有主战与主和两派，左宗棠则恒偏于主战一派。然而伊犁事件之和平解决，殊使宗棠无用武之地，徒叹“伊犁仅得一块荒土，不料和议如此结局，言之腐心”。其时宗棠留居中枢，凡有使命三：一为在军机大臣上行走；一为在总理各国事务衙门行走；一为以大学士管理兵部事务。此为宗棠在京朝服官之第一次。卜居东华门外北池子西偏，对紫禁城，中隔荷池，户牖皆拱宸垣，于隙地构屋，拓新旧石鼓文张之壁，更自以楷书录韩愈、苏轼石鼓诗补其缺，名曰石鼓阁。顾为时甚暂，越八月，即光绪七年(1881)九月，被命为两江总督，兼充办理南洋通商事务大臣。陛辞日，文宗后那拉氏临朝，谕以：“两江公事，岂不数倍于此，以尔向来办事认真，外国怕尔之声威，或可省事，故以此累尔。”旋即束装南下，先回湖南。一至长沙省城邸第，视其家属，一至湘阴东乡故里，展谒先茔。时仲兄宗植与其子浑夫妇，妻筠仙夫人，长子孝威与其妇、二女孝琪、三女孝瑸与其婿，均已前卒。而宗棠自奉诏襄办曾国藩军务离家，亦已二十有二载矣。然烈士暮年，壮心未已，观于莅两江之所为而可知。注590
办理南洋通商事务大臣一职，原为履行鸦片战争后之江宁条约，开辟五口商埠——上海、广州、福州、厦门、宁波——而设，例以两江总督兼之。然其任务固不限于通商，其范围亦不限于五口，凡如东南七省——安徽、江西、江苏、浙江、福建、广东、广西——举办洋务，筹备防务等等，即所以应付通商各国之事项，无不归其综持。当鸦片战争时，宗棠尚以书生从事教读生涯，愤慨万端，乃越四十年，以相国躬履此由鸦片战争而产生之官职，其感想将何如耶？又在已往之十四年中，宗棠始终在西北，所经营者为塞防，今移节东南，所经营者一变而为海防，其感想又将何如耶？而宗棠所注意，偏于海防，图相机一雪四十年前国耻。于是在十二月中，由汉口乘轮东下，直抵江宁省城，一路即阅视长江形势，及两岸防务。宗棠自承于海防涉历较浅，故屡商之于以水师起家奉命巡阅长江之彭玉麟。两人均主张采取守势，不取攻势，即专防海口与江口，而不争大洋。其实此本魏源《筹海》之说，所谓“守外洋不如守海口，守海口不如守内河”者也。注591兹将宗棠有关海防之措注，择要记之：
(一)确定防守地带。海防以吴淞口为要塞，自吴淞炮台迤西北海堤，至罗店，过黄浦江之东，经高行，沿海堤至龙王庙，均划为戒备区域。吴淞炮台左右内外，抽拨兵船分守。罗店、高行各扎两营，前者兼顾嘉定、太仓之后路，后者遮阻敌人登岸之路。江防以崇明、白效沙为第一重门户，平日安置水炮台船，必要时，设置鱼雷。水炮台船向上海耶松、祥生两船厂订造四具，每具银三万两。先将小夹南岸之全泾口，挖深丈余，长里许，宽五六丈，以备收泊水炮台船之用。江阴为第二重门户，南北岸均设炮台。江阴与白效沙之间，圌山关、象山、都天庙、焦山、福山、狼山、江宁省城之下关乌龙山，均设炮台。时吴淞炮台有炮十八尊，江阴炮台有炮四十九尊，圌山关等炮台有炮约共百尊。宗棠命再扩充。各炮台工程，本尚坚实，惟地势凭高，利于俯击。若遇洋轮驶入，则船身贴水，列炮冈阜，与之相持，难于取准命中。宗棠因命更就地位不甚相宜者，傍岸修砌船坞，用木簰铺成水炮台，移炮排列，有警次第施放，期易中的。又船上发炮，因平日演习，只求惜费，未能装子，尚欠纯熟，当由宗棠规定，以后开操，得领取子药，每炮按六次为一轮，每轮以三次为度。关于鱼雷之施放，另在江阴设局，聘英人专事教习勇丁。宗棠指示江南长江各提督、各总兵曰：“木簰安炮，平击洋轮。”曰：“安设水雷、鱼雷，暗击洋轮。”又曰：“以制造小船，载短劈山炮，用合膛子，专击洋轮烟筒。”注592
(二)补充船舶。长江水师仅有木船，玉麟认为未足与外国兵轮抗衡，曾议置备小兵轮十艘，以费绌无成。至是，宗棠自任筹款，期早实现。时南洋大臣所统兵轮，有驭远五百匹马力，澄庆一百八十匹，登瀛州、威靖各一百五十匹，测海一百二十五匹，靖远八十匹；蚊子船有飞霆、策电各六十六匹，龙骧、虎威各六十匹; 差轮有操江八十匹，福安六十六匹，江安、澄安各二十匹。宗棠亦以为不敷支配，决计另备大兵轮五艘，小兵轮十艘。议归上海江南机器制造局承造，每艘造价银十七八万两。大兵轮五艘，以三艘归福建船政局承造，每艘造价银三十万两，余二艘向德国订造，马力二千八百匹，每艘造价银二十七万两。一面向福建船政局附设学堂，调取学生十名，并招水手一百名，指派教习，在澄庆兵轮，教以西学，练习帆缆一切事宜，并游历各海口，俾衽席风涛，辨识海道。期以三年学成，分发新造各兵轮服务。在福建船政局所造大兵轮，先以新落成之开济拨用，此船号称二千四百匹马力，原定每时可行一百海里，乃其后试行仅得九十海里，设备亦未尽完善。宗棠因奏请将负责人员交付惩戒。在德国所造大兵轮二艘，题名南琛、南瑞。当中法启衅时，已在使用，颇为得力。宗棠因奏请将经办人员优予奖励。又长江水师在江南，有内河五营，太湖亦有巡防炮船，独于江北尚少布置。宗棠鉴于高邮、宝应、邵伯一带，湖河相连，村舍零落，枭匪尤为充斥，欲攘外，必先安内，非得轻快炮船，不足以资镇慑。因饬金陵船厂添造飞划三十号，并挑拨舢板八艘，配齐炮械，驶往上述地点，加意巡缉。注593
(三)创设渔团。沿海沿江居民，多以充当渔夫或水手为生活，均谙习水性，且熟识水道，顾气质凶悍，常流为海盗，而于国家有事时，尤易为敌人利用。于是宗棠拟就沿海或沿江之川沙、太仓、镇洋、宝山、崇明、华亭、金山、奉贤、南汇、常熟、昭文、上海、江阴、靖江、通州、海州、海门、东台、盐城、赣榆、阜宁二十一厅州县(原列二十二，后除去不濒江海之嘉定，故为二十一)，创设渔团，将此项渔夫、水手，加以组织、训练。当时估计此二十一厅州县内渔夫、水手，约有一万数千人，每一百人中，挑壮健者三十人，约可练成团丁四五千名。光绪九年(1883)七月，实行开办。其编制，每团丁十名为一牌，牌有长；每五十名为一甲，甲亦有长。每甲配船五号，于是共得九十二甲，四千六百名，各统于团防局。局每厅州县自为一所，崇明以人数较多，独设二所。又于吴淞口设立总局，以苏松太兵备道为总办，苏州城守营参将为会办。每局遴选晓事正绅二人，分任团总、团佐，别挑技艺纯熟者二人，为教习。编入渔团之船，均由局给领刀矛、军械、金鼓、旗帜、号衣等件。甲长、牌长均赏给功牌，俾资钤束团丁。各团丁均于每月初二、二十六两日，驾船齐集团防局所在水面，操练一次。甲长每人月支银四两，牌长每人每操给口食银三钱，团丁每人每操给口食钱三百文，船只每号每操给船价银九钱。操练之技艺，为伏水、泅水、超跃、猱升等，总办、会办、团总、团佐及以次职员，均另酌支薪水。注594
(四)挑募水勇。创设渔团时，即预拟团丁中有操练纯熟，能伏水、泅水、超跃、猱升，技艺超群者，挑为水勇，优给口粮，散入现有之艇船、八团舢板，及仿造之蚊子船，定造之兵轮，期以水上人材仍用之水上。于是在渔团成立一个月后，光绪九年(1883)八月，先挑得水勇二百二十名，分为左右两哨。嗣宗棠亲临校阅，饬照楚军营制，募补成营，于十月起支口粮。共计什长、水勇、伙勇四百九十六名，编成五哨，派委管带一员，哨官四名，哨长四名，以资约束。仍参仿楚军章程，在未经挑选成营以前，每勇日给小口粮钱一百文。成军以后，营官月支薪水公费银二百两，哨官月支银九两，哨长月支银六两，什长月支银四两二钱，水勇月支银三两六钱，伙勇月支银三两。注595
(五)扩充勇营。同时，宗棠对于陆师，亦颇着意。自太平军兴，各省绿营，多成虚设，专用勇营，江苏亦以勇营驻防。清廷为节省饷糈，令各省淘汰绿营疲弱，精选勇丁递补，其余勇丁，除酌留为练勇，以创新军外，均归裁撤。宗棠以为：“时事多艰，隐忧方大，正宜乘此讲求武事，以为自强之计。若竟将多年练成劲旅，裁补兵额，前功尽废，后患方滋。外人观听最真，窃恐生其轻视。设一旦海上有警，将何以御外侮而靖内奸？即使再有招募之谋，劳费岂可以道里计。而临渴掘井，得力与否，亦正未敢知。”当会同江苏巡抚卫荣光覆奏，主张从缓。一面就投效之楚湘军人，添立九营——毅营、威营、仁营、礼营、良营、锐营、先锋营、炮队正副营。嗣更陆续增募新湘、恪靖各营，连前共水陆二十一营，五哨。此固为宗棠对外绸缪之计，然亦非无安顿旧部之用心存焉。注596
(六)储备军实。时曾国藩创设之江南、金陵两机器制造局已有相当成就，宗棠益加整理，密饬先造机器，于崇宝沙、宝山、吴淞口、白茅沙各处，间段分设，以备不虞。宗棠又尝亲往江南局视察，适新铸大炮中节出模，火光腾灼，宗棠本有目疾，坐是红肿有加，流泪不止。宗棠于外洋枪炮，向欣赏德国出品，此时尤赞美温者斯得一种，枪身全用螺丝，后膛进子，最为利器，实马体呢所不及。当先在上海搜购三百杆，仍在德国订购二千杆。又订购鱼雷二十具，并邀制造鱼雷之洋匠来华传习技能。一面亦命金陵局自制马体呢、温者斯得枪弹，以及神机炮弹、格林炮弹、水雷、铜卷子弹等。同时，在圌山关南北岸，添造火药库，以备储藏。在南京下关，拓地储煤，以供轮船之用，此地即今所谓煤炭港者也。注597
宗棠甚重视海防与江防，故在两江总督任三年，迭次出巡视察防务。如：
光绪八年(1882)二月，在清江浦，调阅江北营伍。
四月，调阅江南营伍，周历镇江、常州、苏州，遂至上海，视察江南制造局，又出吴淞口，阅视兵轮。
九年(1883)正月，巡视长江，在吴淞口与玉麟会商防务。
九月，至崇明，阅视渔团，至上海，在江南制造局，阅视新造活炮台船。
十年(1884)正月，至扬州，阅视渔团，至象山炮台，演放大炮，至吴淞口，阅视渔团，至上海，视察江南制造局。
前后凡五次，而其即在江宁省城之下关，阅视演放鱼雷等，尚不与焉。注598其勤劳盖如此，而其兴趣亦在此。如与玉麟聚议之一次，事后曾将经过情形，详告其子。足见两人期望恃此杀敌之情绪，老子婆娑，兴复不浅：
……自前月(正月)二十四日出省，定海防大局，均值天日清明，行程无阻，平顺之至。所按各炮台，于水陆安设靶位，次第施放，均致远有准。若洋轮驶入，船身较水靶宽大百倍，尤无虚发可知。沿海内外炮台，均已勘验。李与吾、李质堂两提戎，狼山、福山、苏松及淮扬章作堂镇军，并同行员弁兵勇，均议于白茅沙设险，扼其入口总要。盖此处正泓逼仄，两边沙线错杂，又均是活沙，与襄樊石牌以上相似，洋轮误入，必致不救。前年太古洋行曾在此埋过一轮船。外轮若敢前来，我但以船列炮，守定正泓，确有把握。除开炮击其汤锅、气管、烟筒外，更挑选勇锐水勇，习熟纵跳，遇有机会，即跃上彼船，轰其机器，折其锋牙，则彼船可夺也。值此时水师将领弁丁之气可用，悬以重赏，示以严罚，一其心志，齐其气力，所为必成。我与彭宫保乘坐舢板，督阵誓死，正古所谓并力一向，千里杀将之时也。在上海与诸将校定议甫毕，适彭雪琴由湖北查案回船至江阴，李与吾、章作堂请先赴江阴，与其晤叙。次日，彭宫保与吾晤于吴淞口，据称此事已于数年前定见，因经费无措中止。今盐票项下，既有余资，可购齐船炮，尚有何疑畏，不能作连命会乎。因将应于中外赶办船炮各事，逐一陈叙，彭亦欢惬，并称如此布置，但虑外人不来耳。诸将校亦云：我辈忝居一二品武职，各有应尽之分，两老不临前敌，我辈亦可拼命报国。答云，此在各人自尽其心，义在则然，何分彼此，但能破彼船坚炮利诡谋，老命固无足惜。或者四十余年之恶气，借此一吐，自此凶威顿挫，不敢动辄挟制要求，乃所愿也。宫保亦云：如此断送老命，亦可值得。语毕彼此分手。注599
至是年九月，复将与玉麟会商机宜，专折报告。其时法国已在进攻越南，故末段尤多慷慨激昂之词：
……海上用兵以来，文如林则徐，忠而有谋，以之制初起之寇，本有余力，不幸为忌者所间，事权不属，不克竟其设施。武如陈化成，力扼吴淞，苦战不却，不幸右路未战先溃，致夷兵萃于左路，力竭不支，遂以身殉。是则议论不协，勇怯不齐，有任其咎者，遗憾至今，四十余年，不知伊于胡底。而所谓识时务者，仍以因循粉饰，苟且目前之安。此志节之士所为抱抑塞磊落之怀，扼腕叹息者也。臣愚，窃谓和局可暂不可常，其不得已而出于战，乃意中必有之事。兹幸地利、人和兼而有之，而察诸将领，又各思发愤为雄，自可及锋而试。因饬一面挑选奋勇弁丁，一面严明赏罚，订立规章，俾互相激劝，以齐心力。遇有外国兵轮闯入海口，不服查禁者，开炮测准轰击，得力获效者，照军功例，从优给奖，其夺获船只者，副将以下至外额均加三级，请保提镇，请给世职，勇丁按名赏银十两，仍录功核保。所夺轮船，除军械及应用器具，概应充公，不准藏匿外，其银洋什物，均报验充赏，不准官弁扣留，以昭激劝。其督队不严，临阵退缩，甘心失律，以致误事者，提镇请旨正法，副参游以下至外额，届时由臣察实，手刃以徇。提镇气力渐衰，身躯肥重，不能纵跳用力者，先期自陈，应核明具奏，免其严议。盖职分既崇，所重者，督率严谨，不必强以力所不能也。至总督亲履行间，所办者，辖疆江海防务，责无旁贷，遇有寇警，应亲临前敌督战，防所即其汛地，如敌人轮船冲过白茅沙总要隘口，则防所即是死所，当即捐躯以殉。此外巡阅长江水师大员，及长江提督，责在长江，未兼洋务，自当分别言之，未可概论。……注600
想见削笔之际，感情异常冲动，故于副将以下御敌失律军官，至欲手刃以为快。并自以两江总督身份，矢愿战以防所为汛地，败以防所为死所。然于奉命巡阅长江水师，愿与并死之老友彭玉麟，仍为留一余地，以为不管洋务，可以不必同殉。特不知与宗棠抱杀敌勇气之彭宫保，是否自甘落伍，此则可与家书参看，而可为发噱者也。
组织渔团，为宗棠得意之作，而未为舆论所许。光绪十年(1884)二月，曾国荃继任两江总督，清廷谕其停止，遂于是年四月完全结束。惟水勇五百人，以精壮可用，仍加保留。综计渔团成立，历时十个月，支用银七万八千余两。宗棠致总理各国事务衙门《时务说帖》中，则颇自记其绩：
……办理沿海二十余州县渔团保甲，为收罗渔户豪俊之士，以杜教民、奸宄为外人引水、暗通消息起见，数月以来，成效已著。通州、海门一带，素称盗案层出者，上年冬防，皆已敛戢，并无报案。崇(明)、东(海)、通州、海(门)四州县绅民，知渔团办成，足以自卫身家。今春该州县士绅候选同知施海元，贡生杨召棠，候选通判王道湟、蔡凤岐，贡生张云抟、顾思义等，带领甲长数人，来省叩谒，禀留委员久办，以收实效。足见时论指渔团无益有损，未为确论也。近日浙江、福建均仿办渔丁保甲，似渔团之有益无损，所见佥同。自开办至今，所用经费，不过三万余两，尚属无多。而海上新闻纸传播，竟称江南练得渔团二万余人，外人颇为震慑，若令一旦议撤，不惟见诸实效者为可惜，今并虚声而无之，良可惜也。……注601
张焕纶在《救时刍言》中批评此事云：“西人言兵者，谓沿海之地，须用渔人为探哨引导之助，近年江督奏设渔团，其法甚善，惟奉行者不能体会上意，或致扰民，其甚者又以涂饰了事，遂为继任者撤去，甚可惜也。愚以为渔团是海防一好题目，如文不工，只宜改文，不必改题也。”注602是为较公允之议论。