在聂荣臻的领导下，第一个抗日根据地的建设迅速开展起来了。人民的政权建立起来，各界人士团结在一起，就连在五台山出家的和尚喇嘛也参加了抗日活动。许多外国友人如白求恩、柯棣华等，也都来到了晋察冀根据地，和中国人民一起抗战。聂荣臻成了中外驰名的抗日英雄。
他率领根据地军民多次打击日寇，最著名的一次是击毙日军“名将之花”阿部规秀的一场战斗。1939年11月，聂荣臻得到一分区司令员杨成武率军在雁宿崖歼灭阿部规秀派来的一队日军的报告后，立刻指示：
“你们不要因为胜利而麻痹，阿部规秀骄横成性，一定会来报复。我命令你们立刻撤出战场，隐蔽起来。说不定还会再打一场硬仗的。”
果然不出聂荣臻所料，第二天，阿部规秀等率日军扫荡根据地了。
聂荣臻指示说：
“我们派一小部分兵力把敌人引过来，诱敌东进，等他们到了黄土岭，集中主力包围歼灭！”在聂荣臻的指挥下，黄土岭战役获得了全胜。阿部规秀被炮弹炸死，日军哀叹“名将之花凋谢在太行山上”，这件事轰动了全世界。
（七）
将军和孤女1940年8月，在收复井陉煤矿的战斗中，八路军战士从战火中救出了两个日本小女孩。大的一个约有五六岁，小的不满周岁，还受了伤。她们的父母已经在炮火中身亡了。
消息传到了司令部，聂荣臻对战士们说：
“虽然敌人残忍地杀害了我们无数同胞和儿童，但孩子是无辜的，她们也是战争的受害者。我们决不能伤害日本人民和他们的后代。把她们送到指挥部来吧，我想办法来安置她们。”
两个孩子很快送到了指挥部，聂荣臻先抱起不满周岁的小妹妹看了看，见伤口包扎的很好，就马上让警卫员去老乡家给她找奶吃。然后，他又慈爱地拉过那个大一些的女孩，问她叫什么名字？
这个女孩叫美穗子，她不懂中国话，只是不停地用日语说：
“妈妈死了”。由于日语的“死了”和“兴子”的发音很相近，翻译误以为她叫兴子。
聂荣臻见美穗子还没从惊恐中解脱出来，就拿过一只梨洗净，和蔼地对她说：
“兴子，这梨洗干净了，吃吧！”美穗子见聂荣臻对她这样和善，紧张的心情开始放松了。她接过梨吃了起来。吃饭的时间到了，聂荣臻又把美穗子拉到怀里，用小勺一口一口地给她喂饭吃。几天下来，美穗子再也不拘束了，她时常用小手拽着聂荣臻的马裤腿，跟着聂荣臻跑前跑后，可亲热呢！
怎样安置这两个日本孤女呢？聂荣臻想：这两个孩子失去了父母，孤苦伶仃，如果把她们留在异国他乡，将来会给她们造成痛苦的；把她们送回国去，她家的亲戚朋友可以照应好她们的。他决定把这两个日本小女孩送回到驻石家庄的日军指挥部去，让他们把孩子转送回国。
临行的前一天，聂荣臻和美穗子一起照了像，第二天，派人用一副挑子，把她俩送往石家庄。分别前，聂荣臻在筐里放了许多梨，让孩子在路上吃，还亲笔写了一封信带给日军官兵。
他在信中说：
“中国人民决不以日本士兵及日本人民为仇敌……我八路军，本国际主义之精神，至仁至义，有始有终，必当为中华民族之生存，与人类之永久和平而奋斗到底……”
两个日本孤女被送到石家庄以后，受伤的小妹妹因伤重死去了。美穗子被送回国后，由亲友抚养长大。四十年后，已经成为三个孩子母亲的美穗子和她的全家专程前来中国看望了聂荣臻元帅，感谢救命之恩。这件事成了发展中日人民友好关系的一段佳话。
（八）
为了保护古都在解放战争中，作为华北地区人民军队的最高负责人，聂荣臻叉为人民的解放事业日夜操劳。他率领军民反击国民党军队的进攻，又进一步实行反攻，解放了华北的大片国土。为全国的解放创造了条件。后来，中共中央从延安迁到了华北。
到了1948年冬天，三大战役的平津战役开始了。聂荣臻和林彪、罗荣桓等一起指挥了这场伟大的战役，打了许多胜仗。当北平（即北京）被人民解放军包围之后，聂荣臻又及时地提出了和平解放北平的建议。
当时中共中央曾提出过用政治手段解放北平，保护古都的设想，聂荣臻非常赞成。他通过北平地下党组织透来的情报，得知傅作义和蒋介石的想法不一样，就对罗荣桓说：
“现在，傅作义的王牌三十五军已经被消灭了，如果我们把天津攻下来，堵住他逃跑的路，逼他谈判。和平解放北平是有可能实现的。”
“我也有同感。”罗荣桓说。
“北平是文化古都，我们应该努力争取和平解放，使它免遭战火破坏，使人民生命财产免遭损失。”聂荣臻又说。
“对。要在不放弃战争解决问题的同时，争取和平方式。”
但是林彪听了聂荣臻的意见后，不冷不热地说：
“你的想法很好。但是是幻想，不可能实现，还是要靠打解决问题。”
“我们是要准备打。”聂荣臻耐心地说，“不过应尽力使古都保全下来，何况党中央已经选定北平为新中国的首都呢！”林彪还是一个劲摇头。聂荣臻只好以个人名义向党中央发出电报，建议争取和平解放北平。党中央和毛泽东很快回电，完全同意。聂荣臻亲自主持了与傅作义代表的谈判，终于达成了和平解放北平的协议，为保护古都做出了历史性的贡献。
（九）
科技工作的领头人新中国成立以后，聂荣臻担任了代理总参谋长、华北军区司令员和北平市市长等职务，为新中国的国防建设，做了大量工作。1955年，他被授予元帅军衔。
由于过度的劳累，聂荣臻在1953年病倒了，不得不休养治疗。1956年，大病初愈的聂荣臻向党中央要求工作，总书记邓小平对他说：
“中央有三个方案，由你自己选择：一是去当北京市市长；
二是主管全国的科学技术工作；三是主管国防工业和部队装备。”
“我对科学技术工作很感兴趣。”聂荣臻兴奋地说，“我们国家太落后，也迫切需要开展这方面的工作。至于国防工业，与科技有密切联系，将来兼顾也可以。”
“好，我同意。那就这样定了。”邓小平说。
不久，聂荣臻就担任了国务院副总理、科学规划委员会党组书记，主管起我国的科学技术工作。
发展我国的科技事业，改变我国的落后面貌，是聂荣臻多年的愿望。青年时代，他就抱着这个理想赴法留学。黑暗腐败的旧中国使聂荣臻的理想无法实现。现在，新中国诞生了，人民掌握了政权，是实现这个理想的时候了。聂荣臻心中暗下决心，要把自己的后半生献给科学事业。从1956到1966年，聂荣臻主持科技工作十年，使科学技术有了飞跃发展。机构健全了，一项项重大成果诞生了。
1960年8月以后，苏联撤走了技术专家，我国科技事业必须走自己的路。聂荣臻向中央提出建议，坚持独立自主，自力更生，但也不封锁自己。他还对同志们说：
“这些困难是暂时的，可以克服的。要下决心把自己的导弹和试验设备设计出来，用中国的材料制造出来……”
几年之后，我国的原子弹、导弹、氢弹都试验成功了。聂荣臻亲自主持了这些试验，被称为“中国原子弹之父”。他还特别关心知识分子的生活，表示愿意当科研战线的勤务员，使科技人员十分感动。在三年经济困难时期，他听说有些科技人员生活困难，感到很不安，就向各方面呼吁，给这些科技人员调拨了肉、鱼、黄豆等一些副食品。他说：
“这虽是生活上的事，也是一项有力的政治工作呀！”在我国科学技术的发展史上，聂荣臻的贡献是非常突出的。
他受到了广大科技工作者的尊敬和爱戴。
（十）
针锋相对的斗争在十年动乱的“文化大革命”中，聂荣臻和其他老一辈革命家一样，受到了林彪、江青一伙的迫害和攻击。他和那一伙坏人进行了坚决的斗争。
在1967年的所谓“二月逆流”中，聂荣臻和老一辈革命家一起，愤怒斥责“打倒一切”的做法。他对“中央文革”成员说：
“你们对青少年不教而诛的做法是极其错误的！你们不能为了要打倒老子，就揪斗孩子，株连家属，搞落井下石，这就是不安好心！”林彪、江青一伙怀恨在心，后来竟千方百计地诬陷聂荣臻。
1968年3月，林彪一伙捏造了“杨余傅事件”，造谣杨成武等人要为“二月逆流”翻案，把他们拘留起来。因为杨成武原来是聂荣臻的部下，林彪、江青等人又大批起“华北山头主义”，煽动揪杨成武的“黑后台”，把矛头指向了聂荣臻。江青在八届十二中全会上，竟居心险恶地说：
“1948年，毛主席刚到阜平县南庄，就遇到敌机轰炸，险些遇害。是有人阴谋暗害，特务电台就设在军区司令部，后来又把特务处决灭口。”
聂荣臻当时是华北军区司令员，直接负责保卫毛泽东。江青这么说不县右膏陷害吗？事实上正是因为聂荣臻高度警惕，才保卫了毛泽东的安全，后来又很快查清了暗藏的特务，把他们处决了。
聂荣臻从这件事上，更看清了林彪、江青一伙人的反动面貌，林彪垮台以后，他积极投入批判林彪的斗争，对“四人帮”也保持着警惕。毛泽东去世之后，聂荣臻派人转告叶剑英：
“四人帮一伙是反革命，什么坏事都干得出来，要防止他们先下手。……只有采取断然措施，才能防止意外。”
不久，叶剑英等代表全党全国人民的意志，一举粉碎了四人帮。在这场斗争中，聂荣臻起了重要的推动作用。