1933年纳粹上台后，新政府打破了《凡尔赛和约》的束缚并开始了重新武装德国的计划。希特勒在参观了古德里安的“演习”时，立刻被那些飞奔在战场上玩具似的小坦克深深吸引住了，很快批准古德里安依次组建3个装甲师，此时的古德里安和希特勒建立了良好的关系。之后，他被任命为第2装甲师的师长，接着晋升为少将，不到一年半之后就被提升中将和第16军军长，在与奥地利“合并”和入侵捷克苏台德地区的战争中充任先锋（实际上都没打起来，当地居民多是“泛德意志人”，他们拿着鲜花迎接德军的到来，因而被叫做“鲜花战争”）。10个月后，他获得了他一生中最重要的职务——德军快速部队首长，这意味着他要负责整个德国国防军机械化部队和装甲部队（牵引式突击炮除外）的征兵、训练、战术和技术方面的指导。担任这一职务使古德里安改变了历史的发展。他终于可以倾注全力运用以往艰难岁月下积累起来的才智和经验，把那些他亲手组建的一个个德国装甲师合铸成战场上最令人生畏的利剑！
进攻法国期间，古德里安为了完成一件真正的闪电战杰作，不断违抗其上级“停止前进”的命令，无情地把他的装甲部队向能走到的最远距离上推进，这些部队酿成的风暴远超过前线指挥部的预见——他们切断了敌人的通信并大批地俘虏后方的敌军……由于这些人被俘时还以为德军仍在缨斯河西岸苦斗，所以根本还没有做好战斗动员并有效地组织起来，有的连指挥官都没有。这些没头苍蝇般的部队和一塌糊涂的指挥系统成了德军在西线大获全胜的主要原因。
被击溃的法军事实上拥有比德军性能上更优良的坦克，当时德军只有很少量装备75mm火炮的PanzerⅣ型坦克才能和法军的CharB重型坦克单独对抗，至于其他那些Panzer、PanzerⅡ、PanzerⅢ的性能和敌军坦克相比简直不入流。但德军坦克发挥了其优点：都装备了无线电指挥系统、高速机动、易于维修等。他们在战斗中被完全作为一支独立的群体，而不是隶属于步兵单位。最后一点，但绝非次要的是：他们直接被军一级的首长指挥，各级指挥官都是该军首长，也是该兵种的创始人一手训练提拔起来的。他们是海因茨·威勒姆·古德里安指挥的。
古德里安的追击一直到了英吉利海峡，他创立的装甲部队在法国深远腹地持续猛烈地插进，一举砍断了巨人般的马其诺防线。从那时起，隶属“古德里安装甲军”的每一辆坦克、卡车和摩托车都打上了一个“G”。
进攻俄国前夕，古德里安被晋升为上将，离陆军元帅只有一步之遥，并出任第二装甲集群的指挥官。在进攻的第一阶段，他获得了骑士十字勋章上的橡树叶。但由于古德里安和他的上级陆军元帅冯·克卢格由来已久的矛盾，他不久被解除了指挥职务。
1943年2月的斯大林格勒战役之后，他被重新起用并再次出任装甲兵总监，负责推进该兵种的现代化。他很快和军备部长阿尔伯特·施佩尔博士建立了良好关系，两人精诚合作，成绩显著，使得坦克月产量大幅增加。
1944年，他被推到了陆军总参谋长的位置，这个位置事实上早已是个傀儡，因为发令枪掌握在希特勒本人手里。和希特勒发生了一次非常激烈的争吵以后，他又被兔除了职务，被闲置到1945年的3月。
古德里安于1945年5月向美军投降成为战俘。他被押送到了纽伦堡，但没被当作战犯推上法庭。俄国人试图指控他犯有战争罪行，但其西方盟国并不同意。1946年，古德里安被丢进阿伦多夫和黑森的监狱羁留，1948年释放。剩下的几年，他一直在写他的回忆录以及其他一些文章，直到1954年5月14日去世，地点是巴伐利亚富森的天鹅堡。
古德里安和他的装甲军创造了众多的军事奇迹，但是并没有因此而成就纳粹帝国。因为我们可以看出古德里安多次军事成就都是与他违拒上级的指令相联系的，因为一些人总想把这匹狂放的野马套上缰绳，担心他侧翼的暴露以及步兵无法跟进，人腿当然是追不上坦克的。但古德里安认为这是个严重的误解，以他的眼光看来，装甲部队不存在所谓的“侧翼”。此外，德军内部的军官之间也不全是“好同志”关系，很多人都想分享这个年轻天才无与伦比的成功，有不少阻止他前进的因素是从这里来的。并且他也是极少数敢顶撞希特勒的纳粹将领之一，因此虽然他才华横溢，却屡次被希特勒解职，以至于后来希特勒只想把他当作一个救火队员用。直到二战结束，第三帝国的26位元帅中都没有古德里安的名字，由此也可以看出他与希特勒的关系。
古德里安会驾驶各种型号的坦克，包括瞄准和射击。作为一名指挥官，他的才能来自持久积累而来的真知和理性，而不是像隆美尔那样来自莽撞和直觉。他精确地知道不同型号坦克在何种地面上最远能开到哪里，依此再决定进攻速度的疾徐……并且古德里安在一生中著有《装甲兵及与其他兵种的协同》、《注意！坦克师》、《一个士兵的回忆》和《坦克——前进》等数本关于装甲兵作战的著作，古德里安太了解装甲兵的特性了。