德国攻打法国这个宿敌，是在“闪击”波兰取得重大胜利之后。
“德国非洲军”的士兵在利比亚昔兰尼加附近的一历史遗迹旁休息。隆美尔作为一个传统的步兵军官，在陪伴希特勒巡视波兰战场期间，“对装甲部队在这次大战中的作用和战绩，羡慕不已”。陪同希特勒从波兰返回德国后，他利用经常能见到元首的特殊条件，开始伸手向希特勒要官了，他要求能去指挥一个装甲师。然而，当他的这个要求拿到陆军总部讨论时，陆军总司令勃劳希齐没有同意。勃劳希齐认为可以让隆美尔去指挥一个师，但这个师仅应限于是步兵师，因为他是纯粹的步兵出身。要知道当时德军远没有全部机械化，为数不多的装甲师被陆军总部视为心肝宝贝，他们怎么能让从来没有在装甲部队干过的隆美尔去指挥这个技术复杂的兵种呢？最后，还是在希特勒亲自出面干预下，陆军总部终于同意任命隆美尔为德军第7装甲师师长，并在进攻法国的战役打响之前发布了这项任命。
陆军总部迫于希特勒的亲自干预，不得不让隆美尔去指挥一个装甲师，但还是舍不得把最好的装甲师交给这位从未与坦克打过交道的将军。第7装甲师原为第2轻型装甲师，是由骑兵部队改编的。在德军入侵波兰的战争中，第2轻型装甲师只装备有90辆轻型坦克，而且多是德国吞并捷克时从捷军那里掠夺来的旧货，其战斗力远低于德军中建立较早的6个标装的装甲师。波兰战争结束后，第2轻型装甲师改编为第7装甲师，改编后虽使坦克数量增加到200余辆，但仍有近一半是捷克制造的轻型坦克，而且，“师里的士兵大部分来自图林根，那是德国的一个很少造就出有前途的军人的州”。
隆美尔到任后干劲儿十足，他心里憋着一口气，“要使这个最差劲儿的装甲师变个样子，让陆军总部的那些显贵们瞧一瞧他的本事”。他一上任，就首先抓纪律和整顿作风。为了整肃军纪和杀鸡儆猴，他撤销了一个只顾养尊处优的营长的职务，并让这位军官在90分钟之内离开军营。每天早晨6点，他还带头出操跑步，进行严格的体能训练。经过一番磨炼，“这群图林根的小伙子，多数人改变了松松垮垮、吊儿郎当的习气，懂得严谨和认真了”。其次，他狠抓坦克兵的战术训练。虽然古德里安早在1929年就提出了利用坦克进行突破的思想，德军组建专门的装甲师也已有5年的历史，但却还没有形成完整的坦克兵战术训练教材。隆美尔边用古德里安的一些现成的理论指导训练和演习，边摸索一些新的东西。到1940年5月对法国进攻开始时，在就任装甲师师长仅3个多月的时间内，聪明和领悟能力极强的隆美尔，不仅在坦克作战的理论和实践方面已成为内行，而且发展了某些独特的艺术。如把坦克部队编成各种大小队形，用快速的、熟练的无线电指挥和重炮轰击的形式实施野战等。德军陆军总部这时才认识到这个隆美尔非等闲之辈，并钦佩他们的元首“慧眼”识人的本领。
1940年5月10日，德军发起了自大战爆发以来对西欧国家的首次大规模的进攻。
这是一个风和日丽的春日，天刚破晓，敌方的官兵还在酣睡中时，成群的德军施图卡轰炸机便呼啸而过，对法国、比利时、荷兰和卢森堡的机场、铁路枢纽、重兵集结地区和城市进行疯狂的轰炸。同时在从北海到马其诺防线之间的300多公里战线上，德军地面部队突破3个中立小国荷、比、卢的边境，粗暴地违反了德国人曾经庄严地一再作出的保证。与德军对峙的法、英、荷、比等国的军队共有135个师，有着绵亘的防御工事，坦克的数量也足以与德军匹敌，可是他们并没有像德军一样把坦克集中起来，更没有料到德军竟会集中装甲部队从阿登森林突破，从而被打了个措手不及。德军装甲部队迅速突破阿登地区。5月14日抢渡马斯河。5月15日深入法国境内后兵分两路：一路朝巴黎方向逼进，一路沿宽阔平坦的公路向英吉利海峡推进。5月19日，攻克了克康布雷，6月5日，德军沿索姆河和埃纳河一线向法国首都巴黎发动进攻，开始了“法兰西战役”的第二阶段。6月7日，突破法军索姆河防线。接着，隆美尔又率领部队绕过前进道路上的设防据点，一鼓作气渡过塞纳河，急转西进，直抵第厄普海岸。此举切断了法国第10集团军左翼5个师的退路，迫使数万名法军官兵向第7装甲师投降。“在隆美尔进击的路上，他常能看到自己的一小队士兵押着上千名俘虏的情形。”6月18日，隆美尔的部队又拿下瑟堡，至此结束了他横扫法国和西欧中的主要战斗。
在战斗过程中，隆美尔乘坐的装甲指挥车总是出现在最靠近前线的地方。他不是靠地图和远距离遥控来指挥作战，而总是坚持在前线指挥。他还经常率领10来辆坦克和部分摩托化步兵在前面为部队开路。在突破法军防线后，隆美尔心中只有攻击两字，从不把注意力放在估价对方重新集结、进行反击、威胁翼侧和后方上，进而使他的第7装甲师总是突出在整个战线之前。
在法国作战期间，隆美尔的“魔鬼之师”共俘敌97648人，缴获炮29门，坦克和装甲输送车458辆，其他车辆3500辆。而他的师仅阵亡682人，伤1646人，失踪296人，损失坦克42辆。
法兰西之战后，英伦三岛已成孤悬海上的一叶方舟，飘飘摇摇，素有“雄狮”之称的首相丘吉尔艰难地领导英国军民在苦苦支撑局面。但希特勒没有一支可以与英国海军决一雌雄的强大舰队，其空军在与英国皇家空军进行的英伦空战中也没有捞到什么便宜，入侵英国的“海狮计划”不得不一拖再拖。希特勒也像拿破仑一样望海兴叹起来。
在半年多的时间里，隆美尔没有打什么仗，比起那刀光剑影的战场来，现在恬静多了。不过，在对法之战后的论功行赏中，一大批将领晋升了军衔，隆美尔却没有像他的两个同伴那样晋升中将，又未得到梦寐以求的株树叶勋章，显得有些沮丧。直到1941年初，他才被晋升为中将。
当然，隆美尔在战斗期间的表现也并非是无懈可击的。他的直接上级——装甲军司令霍特将军在一份秘密的作战总结报告中认为：隆美尔身为一师之长，在战斗中太容易凭一时的冲动行事；另外，他的指挥经验、尤其是对后勤补给的组织指挥经验仍显不足，并且对别人在他所赢得的胜利里作出的贡献没有谦逊的认识。后来，当隆美尔邀请第4集团军指挥官为自己所写的一本有关法国之战的手稿撰写序言时，他的这位老上司委婉地对隆美尔指出，书稿中没有充分反映出空军对第7装甲师的支援作用，对该师左邻右舍的战绩也没有给予恰如其分的评价。言外之意，就是责怪他太贪功了。
虽然在德军中科班出身的装甲部队指挥官们看来，隆美尔的指挥艺术未免有些不合常规，但是他在战场上的行动足以证明：他是一个出色的装甲师师长。他亲临前线，冲锋在前，而不是置身于战场之外；他的作战计划简明扼要，并具有很大的灵活性，使下级指挥官能见机行事；他充分利用装甲车辆良好的机动能力达成进攻的突然性，多次挫败敌方的抵抗。隆美尔一身兼备“虎”威与“狐”气。当他率领装甲师冲锋陷阵时，他就像一只下山猛虎；而当他施展种种诡计攫取胜利时，又成了一只十足狡猾的狐狸。正像纳粹宣传家们吹捧的那样，“隆美尔的魔语是速度，灵活机敏是他的资本”。
在此期间，隆美尔的工作一方面是组织部队进行军事训练，另一项任务是协助纳粹的宣传部门拍摄一部反映德军在法国取得辉煌胜利的影片《西线的胜利》。隆美尔这时很注意宣传自己，也乐得能跟戈培尔的人拉上关系。为此，他一遍遍地指挥士兵们演示作战时的情景，让摄影师精心拍摄，因为他知道这部影片放映后，隆美尔的名字将在德国家喻户晓。空余时间里，他还将第7装甲师的战时日志整理成一本小册子，并把它呈给希特勒。希特勒阅后大加赞赏，于1940年12月20日亲笔给他写信说：“你应该为自己的成就感到自豪。”对此，隆美尔曾兴奋地告诉妻子露西：“由于元首在日理万机的操劳中，还能抽空阅读我写的有关装甲师的历史，并且还给我回了信——这使我感到无比的荣幸。”
其实希特勒之所以能在众多的法西斯将领中如此破格地优待于他，是打算让他去担负一项更艰巨的使命。军人的本能也使他意识到了这一点。果然，1941年2月15日，在隆美尔从部队回到维也纳新城的家中准备度假的当天晚上，“元首大本营”的一名军官带着一份要他立刻与陆军总司令和希特勒会见的通知找上门来。当夜，他便跟着那位军官动身前往柏林。次日，他见到了陆军总司令勃劳希齐和希特勒，他们告诉他：他已被任命为德国“非洲军”军长，任务是赴北非与意大利人共同对英军作战。
原来，在德国征服西欧的同时，意大利法西斯也加紧了对北非和地中海地区的侵略扩张。地中海为欧、亚、非三大洲所环抱，是世界上最大的陆间海，西经直布罗陀海峡通往大西洋，东北以达达尼尔海峡、博斯普鲁斯海峡与黑海相连，东南经苏伊士运河、红海通往印度洋，战略地位十分重要。自中世纪以来，谁能全部或大部控制住地中海，谁就可以建立横跨欧、亚、非三洲的大帝国。其中，属于地中海文明一部分的北非地区，由于地处大西洋、地中海和红海之间，更是兵家历来争夺的战略要地。特别是1869年苏伊士运河凿通以后，列强在北非的争夺愈加激烈。至本世纪初，法国占领了北非西部的摩洛哥、阿尔及利亚和突尼斯，英国控制了北非东部的埃及和苏丹，意大利抢占了中部的利比亚。
隆美尔在用望远镜观察英军，他总是带很少的随从，出现在最危险的地方。希特勒德国征服法国后，贝当政府虽保留了在北非名义上的利益，但实力已大不如前了。英国正面临德国入侵的威胁，更难以顾及北非。所以，法国战争结束不久，意大利法西斯独裁者墨索里尼便派遣50万大军于1940年9月入侵埃及。希特勒原本并不希望墨索里尼在北非大动干戈，特别是自1940年夏末起，在眼看入侵英国无望的情况下，他已将登陆准备作为恫吓英国的手段和着手实施入侵苏联的掩护，妄想在打败苏联夺得“生存空间”后再图谋其它。不过，希特勒虽然不赞同墨索里尼的行动，但在意军入侵北非时曾主动提出派一个装甲师以示支援，然而却被担心“请神容易送神难”的墨索里尼婉言谢绝了。
外强中干的意大利军队实在是不堪一击。墨索里尼原以为他的50万大军会很快旗开得胜，将英军彻底赶出北非，从而再现昔日古罗马帝国的辉煌。岂料，开战不久英军便顶住了意军的进攻，并于1940年底转守为攻。至翌年2月初，英军相继收复和占领了地中海及红海沿岸的巴尔迪亚、托卜鲁克、班加西等地，歼灭了意军9个师，仅俘虏就抓到了13万余人。
墨索里尼这时只好求助于希特勒。希特勒认为：虽然对德国来说，丢掉北非并不影响他将要发动的侵苏战争，但这会对意大利人产生强烈的精神震撼，使他们因担心英国以北非为基地来对自己的国土进行轰炸而退出“轴心国”联盟，那样就将大大损害德国的战略利益。于是，希特勒决定组织一个以两个德国装甲师为主力的“非洲军”前往北非，并挑选隆美尔为军指挥官，全面负责这次远征。
希特勒挑选隆美尔为“非洲军”最高长官，给他搭就了一个充分显示自己才干的舞台。