在中小学教育方面，叶剑英提出，必须按照新民主主义教育方针，建立民族的、科学的、大众的教育内容，培养具有为人民服务思想和专门知识技能的人才，以此为改造和发展北平市中小学教育的目标。为了有步骤、有计划地实现这一目标，市政府对各中小学采取先维持原状，按时开学，再有步骤地进行接管与改革。改革先从行政方面着手进行。在公立学校中实行机构精简，撤换思想反动的或不称职的少数教职员。在经济上做到公开、节约，杜绝贪污现象。在教学上，废止旧教材，使用新教材，增设新的政治课，对学生进行思想教育。并逐渐建立起民主管理制度，启发学生树立民主自觉的学习精神，扫除国民党时代对学生实行封建法西斯式控制的现象。
为了团结并改造旧教师，市政府协助教联筹委会举办各种讲座、座谈，成立政治、国文、历史等学科的研究组织，并举办暑期学习会，将中小学教员集中起来进行短期培训、学习。市政府还对家庭贫苦或因家在外地而断绝了经济来源的学生，发给临时救济金，以保证家境贫寒的优秀学生获得求学的机会。1949年6月上旬，叶剑英出席北平市中小学教职员代表会议，在讲话中对中小学教育工作者们提出了三点要求：一是要给予新的一代科学的、而不是愚昧落后的教育。二是要用新的道德来教育新的一代。三是要努力帮助农民及其子弟提高文化水平。他还要求中小学教育工作者加强自身的学习，努力提高教育能力和水平。
在卫生事业方面，叶剑英领导市政府，重点开展了防疫、环境卫生、医药救济、学校卫生等工作。解放前，北平城内包括天安门广场、东西长安街等，到处都是成堆的垃圾。各级政府机关人员深入基层、居民中间，进行总动员，突击大扫除。在3个月的时间内，全市清除了国民党统治时期多年积下来的垃圾20多万吨，粪便20多万斤。与此同时，在城市和郊区对群众普遍进行了防疫注射，给5万多名群众进行了免费治疗。
叶剑英在北平期间，还出席了一系列全国性会议，并在这些会上发表了重要讲话。4月18日，他在中国新民主主义青年团第一次全国代表大会闭幕式上讲话。他重点向大家介绍了时局特神话别是与南京政府进行和平谈判的情况，同时要求青年一代发扬毛泽东主席倡导的愚公移山的精神，继续同帝国主义和封建主义势力作斗争。他还要求青年们讲卫生、讲体育、讲学习，努力完成历史赋予青年一代的使命。7月2日，叶剑英出席全国艺术工作者代表大会开幕式并发表讲话。他指出，文学艺术战线是一条重要的战线，文学艺术工作者应该担负起肃清封建主义和资本主义残余，教育人民的任务，为人民提供更多更好的精神食粮。7月14日，叶剑英在全国第一次科学会议筹委会正式会议上致词。也提出，一个真正的人民的科学家；要有坚定的人民立场，老实的科学态度，科学队伍要真诚地团结起来，积极地为人民工作。
六廉洁奉公
“政者，正也。”叶剑英在领导市政建设中，要求政府的工作人员正人先正己，搞好自身建设，廉洁奉公，全心全意为群众谋利益。他自己作为一市之长，则率先垂范，克己奉公。不论在工作上和生活上，不搞特殊化，不贪图物质享受，保持入城前艰苦朴素的作风。
有一天，军管会物资部长童陆生找到叶剑英：“报告参座，现在物资都分配得差不多了。我给军委机关分了一批东西，其中有些被服和办公用具，每个领导干部都分配一点，您要点什么？”
“我？什么都不要。”叶剑英这阵子忙于给各单位分配物资，自己从未想到要分点什么。
“我是正式向您报告这事，不是随便说的。”童陆生认真地说。
叶剑英抿着嘴笑了：“我是军管会主任，又是市长，领导接管7这些物资，怎么能自己给自己分配呀！”市长正式地作了答复。
叶剑英领导接管的旧北平市党政军机构的物资，在仓库里堆积如山。其中，有各种各样的高级家具，有成千上万件毛毯、被服，还有珍奇古董、名人字画，他一件不要，两袖清风，廉洁奉公，以实际行动体现了中共七届二中全会关于进城以后，要保持艰苦奋斗作风的精神，为军管会和市政府全体同志树立了榜样。
在廉洁奉公方面，叶剑英“以身先之”，也要求下属这样做，决不许任何人“以身害之”，即使是小事也不放过。市政府有一个留用的旧职员，经常看戏不买票，戏院很有意见。事情反映到叶剑英耳朵里，他一了解，这个人还有其他腐化行为。于是，果断决定将他开除了，并下令将此事登载在《人民日报》（北平版）上，以便教育更多的人。
有一次，北平警备司令部副政委莫文骅，找到叶剑英，请求给警备部队值勤的战士们批几辆自行车。未想到，这点小事，叶剑英反倒认真起来。
“哪里有自行车？”
“警备部队守卫的一座仓库里就有一批车子。可战士们一辆也没有动用。他们成天跑路，能不能给他们解决几辆值勤用车？”
叶剑英沉吟了一会儿，说：“战士们自觉遵守纪律的精神，很使我感动。批一些车子给他们，以便值勤，完全应该。可是，现在要东西的单位太多。我们军管会所属单位应该以身作则，起模范作用。宁肯自己吃点苦，也要尽量把东西分给别的单位才好。”他说到这里，用手指了指莫文骅，又指指自己，笑着说：“我们之间的个人关系很好，但是不能私相授受啊！老莫，你说对吗？”
莫文骅觉得叶剑英的话十分在理，当即表示：“参座讲得很对，我们是应该高风格，先人后己。”
“我不批车子，部队不会有意见吧？”
“不会的。部队进城以前，进行过政治纪律方面的教育和大讨论，开展了‘评入城资格’的活动，觉悟都有很大提高。他们感到，能人城参加警卫工作，是一件十分光荣自豪的事。有些没被评上入城资格的战士，还哭鼻子哩。”
叶剑英听了，哈哈笑起来。
七与南京国民党政府代表团和谈
人民解放战争的节节胜利，迫使蒋介石向中国共产党发出了虚伪的求和声明，企图用缓兵之计，阻止人民解放军渡江南进。中国共产党为了迅速结束战争，实现真正的和平，减少人民痛苦，同意在“惩办战争罪犯”、“废除伪宪法”、“废除伪法统”等八项条件的基础上，同国民党进行和平谈判。
1949年4月1日，双方在北平开始谈判。中国共产党参加谈判的首席代表是周恩来，代表有林伯渠、林彪、叶剑英、李维汉、聂荣臻。国民党方面的代表是张治中（首席代表）、邵力子、黄绍肱、章士钊、李蒸、刘斐。
在这次正式谈判之前，叶剑英奉中共中央之命，以他特有的谈判经验和魄力，在北平多次接待了南京方面的代表及有关人士，磋商和谈的有关事宜，为双方的正式谈判铺平了道路。
1月下旬，南京国民党政府代总统李宗仁和白崇禧派出他们的私人代表刘仲华、黄启汉到达北平，求见中共中央的领导人。叶剑英根据党中央的指示，在颐和园接见了他们，并进行了长时间的谈话。黄启汉、刘仲华介绍了蒋介石下野的经过，以及李宗仁、白崇禧的处境和政治态度。他们谈到：李白同意以毛泽东主席1月14日《关于时局的声明》中指出的“惩办战争罪犯”等八条为基础，进行和平谈判。特意先派他们来北平同中共进行联络，表示“求和诚意”，希望中共方面能尽早与李、白进行谈判。李、自愿与中共达成默契，在京沪一带作战中与中共军队相配合，具体方案要等待叶剑英参谋长指教。叶剑英认真听取了黄启汉、刘仲华的谈话，对他们表示：欢迎你们到北平谈和平谈判问题。在当前的形势下，虽然中共完全可以用武力彻底消灭国民党反动派，但我们仍然愿意同国民党南京政府和任何国民党地方政府或军事集团进行和平谈判。他提醒国民党方面的人士要识时务，顺应潮流，向人民靠拢，才有光明的前途。叶剑英同黄、刘谈话以后，立即将谈话内容电告中共中央。周恩来以中共中央名义起草回电，肯定叶剑英同黄启汉、刘仲华的谈话，指示要加强对桂系军阀的工作，加强对国民党反动统治者内部的分化瓦解。如果李宗仁、白崇禧确有接受毛泽东主席所提八条和反对美、蒋的真意，就应当采取切实的行动。据此，叶剑英再次同黄、刘谈话。商定刘仲华留在北平负责联络。黄启汉返回南京后，向李宗仁汇报了在北平见到叶剑英的情况及谈话内容。李宗仁高兴地说：“总算很快就搭上了关系。”
2月上旬，叶剑英在百忙中接见了以大学教授和国策研究会人员为主组成的“南京人民代表团”。叶剑英耐心地听取了他们的意见，并进行了友好谈话，要求其为实现真正的和平而作出自己的努力。中旬，李宗仁政府又向北平派来一个由主和派和上海资产阶级代表组成的“上海和平代表团”，其成员是颜惠庆、章士钊、邵力子、江庸。代表团来平前，叶剑英即通知南京方面三条注意事项：（1）双方谈话要守秘密，非经许可不得向报界发表；（2）不准新闻记者随行；（3）以私人资格来平，不得代表政府。2月14日，代表团飞抵北平。15日，叶剑英到六国饭店会见4位代表。下午，设宴招待代表团和同机到达的全体人员。然后，又根据中共中央指示，分别同代表团成员进行了个别谈话。除和平谈判这一主题外，还有关于南北通商、通航、通邮、通电等问题。颜、章、邵、江都向叶剑英表示了自己的意见。他们的共同立场，是使革命带上温和色彩，南北议和，承认中共领导，排斥蒋系，容纳桂系及江浙资产阶级。叶剑英对他们说，蒋、宋、孔、陈四大家族发动的和谈，是美国指使下的和平攻势，并无和平诚意。现在，蒋介石、顾祝同、孙科等正在美国策动下积极备战。中国共产党向来是主张和平的，蒋、宋、孔、陈四大家族为首的国民党反动派，是发动战争、祸国殃民的罪魁祸首。现在要和平，必须在中共提出的八条基础之上，特别是第一条惩办战争罪犯的基础之上，才有可能获得。叶剑英告诉他们，中共正在和各民主党派商量战犯名单及其他和谈的有关问题。一俟准备就绪，即将通知南京政府，约定时间地点，开始谈判。你们几位以私人资格先来商谈，中共甚表欢迎。你们的意见，都将转达给中共中央。
叶剑英同4位代表商谈历时一个星期。接着，毛泽东和周恩来又在西柏坡接见了他们，就和平谈判等问题广泛地交换了意见。毛泽东并请代表团转交给李宗仁一封信。2月底，代表团返回南京，被各界称之为“和平使者完成了使命”。4月1日，中共同南京政府经过3个月的反复联系、商讨的和平谈判，终于在北平举行。谈判共分为两个阶段。第一阶段从4月1日至12日，双方代表就各项问题广泛进行商谈，其中主要的是战犯问题和人民解放军渡江问题。中共代表坚持无论和谈成功与否，人民解放军都必须渡过长江。但在战犯处理、对待国民党政府和军队人员以及联合政府组成等问题上，中共代表表示可以照顾到国民党各方的情况，给予宽大处理。在谈判过程中，叶剑英还以北平市长身份，就北方和南方之间恢复通航、通邮及商业联系问题，同国民党方面的代表交换了意见，欢迎他们在这些方面发挥作用。4月13日至15日，谈判进入第二阶段。中共代表团在吸收南京政府代表团提出意见的基础上，提出了《国内和平协定草案》。经过双方会商，达成《国内和平协定》。中共代表团宣布4月20日为南京政府最后签字日期。
4月20日，南京政府决定拒绝在《国内和平协定》上签字。4月21日，毛泽东和朱德向人民解放军发出“向全国进军的命令”。这样，叶剑英同中共其他几位代表的和平谈判使命便告结束。
南京国民党政府虽然拒绝和平，但它的下属并不都是铁板一块。叶剑英利用一切有利的条件和机会，争取尚未解放地区的国民党将领弃暗投明。他听说原国民党北平市警备司令周体仁，要求回云南老家，便设宴款待，并请他带信给过去在云南讲武学校的校友、国民党云南省政府主席卢汉，劝他认清形势，顺应潮流，靠拢人民。卢汉在昆明认真考虑了叶剑英的传话，并设法通过关系，与叶剑英取得联系。1949年冬，在人民解放军大举进军西南的情况下，卢汉决心起义。起义前夕，他派出亲信取道香港到达广州，向叶剑英汇报起义打算。叶剑英立即将情况转报中共中央，中央很快作了具体安排。12月9日，卢汉率云南国民党地方组织、政、军系统成功地举行了起义，云南人民获得了和平解放。在云南起义前后，叶剑英还派人争取了过去在粤军中的老同事、国民党军第十八兵团中将司令李振，在成都前线起义，加速了国民党军队在成都战役中的失败。