然而，当列车驶离车站，车厢里只剩下他和他的情人及副官时，他的神情就变得忧郁起来。看样子，即使是在刚刚升任联合舰队司令官的这几天，他也总是无法消除他的那种郁闷心情。泥足深陷的日本侵华战争和不断尖锐的日美矛盾，犹如一块重石始终压在他的心头。如果说山本五十六同其他的日本战争贩子有什么不同之处的话，他对战争全局的清醒认识和较高的战略头脑应该算是最为突出的一点。山本五十六不是一个宿命论者，但似乎在他最为春风得意的时刻，也总是预感到日本正在走向一条自我毁灭之路，然而，他又是一个彻头彻尾的日本武士，他现在的使命就是为天皇和日本的对外侵略战争效忠。
当晚9点20分，列车抵达大阪。他们三人下车后，当晚住进了新大阪饭店。
这时的联合舰队因更换司令长官而停止了联合演习，被集中到纪州的和歌之浦港。
名不虚传，日本的联合舰队确实是名副其实的世界上第三大舰队。就停泊而言，大阪港、神户港都显得太小了。如果在这里停泊的话，只得把舰队分开：第一舰队停泊在神户，第二舰队停泊在大阪，而只有和歌之浦才能容纳得下整个联合舰队的舰只。
翌日——9月1日早晨，送走了河合千代子后，山本五十六便驱车赶往和歌之浦了。
抵达和歌之浦时，天空万里无云，天气燥热。停靠在栈桥边的长官专用机动快艇在烈日下已等候多时了。
一名前来迎接山本五十六的年轻中尉见到联合舰队新司令长官，紧张得满脸通红，他急忙前去搀扶山本五十六，山本微笑着摆了摆手说：“我还没老呢，我自己来吧！”说着一个箭步跨上了快艇，就这一个动作，年轻的中尉便立即感到了山本的与众不同。
烈日下闪闪发着银光的纪州海面上，静静地停泊着联合舰队的七八十艘军舰，看上去格外雄伟、壮观。
从开战直到“大和”号下水服役之前，“长门”号一直是山本的座舰，同时它也是联合舰队的旗舰。
从舷梯入口看去，在“长门”舰上，甲板的内侧是山本指挥之下的各舰队和支队的司令官及其下属军官们，甲板的外侧是联合舰队司令部的幕僚和参谋们，对面是福留繁舰长及其部下——“长门”舰的军官们。他们坐次有序，排列井然，在恭候着新任联合舰队司令长官山本五十六所乘快艇的到来。
吉田善吾升任海军大臣离开“长门”舰后，舰上的全体官兵对“谁来接任司令长官”的问题众说纷纭。
通常，联合舰队司令长官这一职务是由第2舰队司令长官接替，这已成了惯例。当时第2舰队的司令长官是丰田副武。但这次却打破了先例。当大家听说已决定由海军次官山本五十六来接任时，都感到惊讶：“噢，这回来的可是位大名鼎鼎的人物啊！”
快艇一靠近“长门”号，山本就敏捷地跃上了扶梯。早就等候在舷门（扶梯的出人口）的信号兵看到这位海军大人物一下快艇，就吹起了管乐，欢迎他的到来。据说，这种欢迎方式是从英国传来的。很早以前，这种音乐在英国海军中是作为装好土笼（装船时所用的一种容器）通知起吊的信号，后来保留了下来，并转用于礼仪场合。同山本相比，舰队司令长官及参谋长们都显得太胖了，有的甚至像个啤酒桶，登这种扶梯对他们来说是很困难的，而山本则不然，他身矮体轻，动作敏捷利落，加上他又是个性急之人，所以毫不费劲儿地就登了上去。
山本一跨上扶梯，长官艇（山本乘坐的那艘快艇）上飘动着的中将旗就降了下来。同时，“长门”舰的桅杆便徐徐升起了迎风猎猎作响的帅旗，军乐队奏起了预先选定的欢迎乐曲。跨进舷门的山本一边给前来欢迎的官兵行举手礼，一边从长官出入的甲板出入口走进了司令长官的办公室。
在办公室里，联合舰队的幕僚们和各舰队的指挥官，为他举行了简单的欢迎仪式。仪式虽不那么隆重，但山本五十六却非常高兴。
1939年9月1日，也就在山本五十六以日本帝国海军联合舰队司令长官的身份，登上“长门”号旗舰的时候，传来了德国入侵波兰的消息。
当日4时45分，法西斯德国出动了160万兵力，坦克2，800辆，飞机2，000架，对波兰实施了突然的全面袭击。随后，英国、法国、印度、澳大利亚、新西兰、南非和加拿大等国先后对德宣战，第二次世界大战终于爆发了。
这一巧合似乎已经预示了山本五十六未来的命运。
9月5日，山本五十六向联合舰队全体官兵发表了他出任联合舰队司令后的第一次讲话：
鄙人虽不谋该职，但天皇陛下授命，只好就任，值此，深感责任重大。
不言而喻，今天欧洲的形势，乃世界再度出现大动乱之先兆也。值此风云突变之时，吾深感帝国海军任重道远。望全体官兵更加同心协力，自重自爱，不辞辛劳，昼夜兼练，以保持联合舰队之最高威力，担负起保卫国防之重任，不负于天皇陛下之所望。
山本上任后不久，就恢复了因交接而中断的日常训练。他第一次站在“长门”号上，看着由自己亲自指挥的这支世界第三大舰队拔锚起航。 “离港还有15分钟，各舰航海值班人员各就各位。”
一声令下，各舰从舰首到舰桥，立刻呈现出一片紧张繁忙的气氛和景象。总共80艘大小战舰井然有序，烟囱里冒出的黑烟笼罩了整个和歌之浦码头。
“第2战队第1号舰正起锚。”
随着报告声完毕，“长门”号的汽笛发出一声长鸣，下达了“立即出港”的命令。
负责舰队警戒任务的潜艇部队最先驶出港口。山本手里拿着双筒望远镜来到舰桥。他一边听着航海科传令兵关于各战队各舰的行动情况报告，一边直接观察着舰队出港。
传令兵继续报告：
“第4战队正在出港：‘高雄’、‘爱宕’、‘鸟海’、‘摩耶’出港了。”
“后面是‘伊势’出港了，‘日向’、‘扶桑’出港了。”
“‘赤城’、‘加贺’、‘苍龙’、‘飞龙’第1、2航空战队依次出港了。”
当山本看到随后驶出的庞大的航空母舰时，他的眼睛好像一下明亮起来：现在该是将自己的航空战术思想付诸实践的时候了。
山本首先改变了老一套的训练方法。在海军，舰队夜间出入港口，是舰队训练中难度很大且有危险的科目，稍有失误，就会发生损伤“天皇军舰”的事故，情节严重者要受到切腹的惩罚。因此在以往的训练中，一般是各舰都要打开信号识别灯，并以无线电保持各舰间的通信联络，以免发生军舰相撞毁伤舰只的事故，这已成为联合舰队不成文的惯例。但山本认为，这是不符合实战要求的。因为战时，舰队出港是不允许打开信号灯和使用无线电的，即使使用微弱的无线电波联络也是被禁止的。他要求各舰一律不准开信号灯，并关闭舰上的无线电联络装置。舰与舰之间保持一定距离依次跟着各自的旗舰摸黑前进。
这是难度相当大的出入港训练。几万吨的庞然大物，启动后的惯性是相当大的，在黑暗中各舰保持一定的距离和准确的方向，使舰上人员高度紧张。一旦发现舰与舰之间的距离过近时，靠舰上机械的制动能力是很难抑制住巨大的惯性的。山本的目的就是要训练日本海军的夜战能力。
接着，山本在完成前任总司令官吉田善吾制定的年度训练计划后，到1940年便改以他心中构思已久的以航空兵力为中心的训练。
1940年3月，山本为了检验海军航空兵的攻击能力，安排了一次代号为“123号作业”的演习。演习的计划安排是，驻在志布的舰队从有明湾出发，经过九州东岸北上，向佐泊湾进发；航空队则搜索北上的舰队并利用夜间对舰队实施轰炸。
指挥鱼雷轰炸机的是“赤城”号航空母舰飞行队长渊田美津雄少佐。他在发现山本五十六的舰队之后，便紧紧盯住山本的座舰——旗舰“长门”号。“长门”号打开探照灯，试图扰乱追踪飞机的视线，并用高射炮向空中的飞机猛烈射击，同时，加快舰速拼命躲避。渊田率机群巧妙地躲开了高射炮的反击，连连向舰上投放训练用的鱼雷炸弹，弹无虚发，发发命中。
看到这一情景，山本心中十分高兴，问身边的航空参谋：“这批飞机是谁指挥的？”
“飞行队长渊田美津雄。”
“渊田……”听到回答，沉思中的山本似乎牢牢地记住了这个名字。
过了一会儿，山本对他的参谋长福留繁无意中说道：
“照这个水平，难道还不能攻击珍珠港吗？”
福留少将迷惘地望着山本，根本不知道他在说什么。