徐向前在山东建立民主政权主要采取了三种方式。一是条件成熟的地方建立民选政权。1939年夏季，敌人对沂蒙山区大"扫荡"，国民党的县长都跑掉了，政权垮台。利用这个机会，先后在莱芜、新泰、蒙阴、沂水、临朐、东平、平阳、宁阳、长清、泰安等县建立了抗日民主政权40多个。此外，民选的各级政权还吸收包括进步人士、开明士绅、社会名流等各界各阶层人土参加，山东省参议会议长就是由进步人士范明枢担任的。这实际上是一种中共领导下的统一战线政权形式，对调动各方面的力量，稳定局面，坚持抗战，起到了积极的作用。
二是建立"两面政权"。即在敌占区、铁路沿线和中心城市，利用敌伪政权中的进步分子或秘密派人进去，进行抗战工作。徐向前曾回忆说，有一些名为伪政权，实际上是我们的人。有一些村的村长，名义上是敌军委任的，但被我们争取过来，那里就成了八路军的"庇护所"和情报站。送情报，他给日本人送的是假的，给我们送的是真的。就像电影《平原游击队》里那样，八路军过铁路时，村长敲着锣喊："平安无事哟！"迷惑敌人，掩护我们过铁路。
三是促使国民党控制的政权实行某种程度的民主化。办法首先是揭露那些政权腐朽、堕落、不民主的丑恶现象，公之于众，让民众去分析、鉴别，认识改革的必要。其次是要求开放民众，要求使用各党派的人才，要求减轻民众负担，改善人民生活。第三是发动群众组织宪政促进会，用以打破蒋介石长期"训政于民"的做法。1940年2月，山东全省宪政促进会成立，徐向前被选为执行委员。
人民军队不同于其他任何军队的一个显著特点，是他不是单纯地打仗，而是一个有着特殊政治任务的武装集团，担负着工作队、生产队的职能。建立政权，正是履行这一职能的重要表现。上述三种政权形式，尤其是两面政权，是徐向前分化、瓦解敌人，争取一切可以争取的力量进行抗日、以及扩大和巩固根据地的有效手段。
四、反磨擦战
中国革命的特殊性，决定中国革命战争也具有特殊性。抗战时期，国共两党在抗日的大旗之下联合起来，但国民党集团反共之心不死，不断地制造磨擦，限制共产党力量的发展。因此，整个抗战时期，国共之间所进行的磨擦与反磨擦的军事斗争，就是一场特殊的战斗。如何面对和处理这种磨擦和反磨擦斗争，也是检验人民军队勇敢领导的一个重要尺度。在这场特殊的战斗中，徐向前在冀南、山东同国民党顽固派进行了有理、有利、有节的反磨擦战，粉碎了他们的反共分裂阴谋。
首先是在冀南同鹿钟麟的较量。1938年9月15日，国民党政府河北省主席鹿钟麟进入南宫。从此，在冀南掀起了磨擦与反磨擦的激烈斗争。鹿钟麟是奉蒋介石"收复失地"的使命而来的。他初到南宫时，徐向前根据中共中央关于与河北省府合作的指示精神，指示在南宫的部队、各阶层人士和群众组织，组成欢迎队伍，迎接鹿主席的到来。鹿钟麟在城外数里，就看见道路两旁站满了人，有数千之众，对这热烈的场面，他感到很满意。鹿钟麟来南宫后，行政主任公署和南宫县政府召开了各方代表欢迎座谈会。徐向前、朱瑞、杨秀峰、宋任穷、陈再道等几位领导，也都去鹿的驻地，一一向他介绍冀南的情况，表示团结一致、共同抗日的真诚愿望。
同时，双方就合作抗战问题进行初步会谈。在会谈中，徐向前提出，请鹿钟麟承认冀南行政主任公署为惟一政权机构，并以省府主席名义，对已经选出的行署、专署领导人和各县县长正式加以委任，让人民群众更加增强在各级政府领导下坚持抗战的信心。鹿表示，自己一无枪炮，二无军队，今后抗战还要多靠八路军，大家同舟共济，遇事互相商量。但对"委任"这样的实质性问题未表示明确的态度。
对于鹿钟麟的这种态度，徐向前分析，他可能有难处，既有蒋介石交给的"使命"在身，周围又有一批"眼线"，身不由己。徐向前对宋任穷说："一次谈不成不勉强，以后还可以慢慢地谈嘛。"
冀南平原建造"人山"的工程，没有因为鹿钟麟的到来而放松。在共产党的领导下，各级抗日政权、人民武装和民众团体如雨后春笋相继建立，广大群众充分发动起来。鹿钟麟对此深感不安，到冀南一个月时，他在给国民党中央党部社会部部长陈立夫的一封电报中说："本省前以处特殊环境之下，党务中断已久，各地民运团体已领导无人，遂于无形中停顿解散。本部抵冀后，各县民运，共产党早着先鞭，其组织系统、县、区村各设民族革命战地动员委员会，内分总务、组织、宣传、动员分配、人民武装、锄奸六部。其中，最关重要之组织、人民武装二部，皆为共产党分子把持，各县之民众团体，如：妇女救国会、农人救国会、工人救国会、店员救国会，悉由该会领导，各民众团体县会之上，均设有冀南总会，以求集中力量。八路军东进纵队政治部，实为各县动委会及冀南民众团体各学会之发号施令总机关。本部外察民情，内凛职责，深知另组民众团体，难免发生磨擦，令共党将领导权完全交出，绝非共党所愿。今后对民运工作之领导与组织，应持何种态度，采何种方式，亟盼详为指示，以资遵循。"
陈立夫的回电是："融合军事政治积极进行，绝不可稍事退让，其组织方式亦只可因地制宜，分区督导，统一指挥，似不必拘定于形式。"
鹿钟麟接到陈立夫的电示后更加坐不住了。他以孙良诚为游击总指挥，四处网罗地方反共武装势力，将民军赵云祥部及杂色武装胡和道等部也拉了过去。在他能指挥的队伍中，河北保安司令兼民政厅长、以反共起家的张荫梧的势力最大。这些反共武装势力在鹿钟麟的指使下，在冀南不断制造反共磨擦事件。
9月下旬，胡和道勾结枣强县的会道门组织，向八路军东进纵队独立团驻姚屯的1个连进攻，杀害战士13人，抢去步枪17支，后又指使"白极会"包围枣强县城，声言要"撤换县长、驱走八路"。不久，赵云祥又将新河县抗日群众团体"战委会"解散。
l0月底，鹿钟麟以南宫县长赵鼎新纪念"双十节"大会迟到和写工作报告不合格式，对他不尊重为理由，提出撤换赵鼎新的县长职务。同时，另外委任了一批专员、县长、区长，致使冀南出现了双专员、双县长、双区长并存的混乱局面。
11月中旬，日寇对冀南发动第一次"扫荡"，南宫失守。鹿钟麟等人仓皇逃往枣强，杨秀峰的行政主任公署转移到广宗活动。"扫荡"被粉碎后，日军放弃南宫。鹿钟麟抢先返回，竟以冀南行政主任公署"不知去向"为借口，宣布予以撤销。徐向前当即采取了巧妙的回击方法，派一个营的兵力进驻南宫，以"保护"鹿主席的名义，保卫行政主任公署，如果反共武装前来挑衅，就以危及鹿主席的安全为由，坚决予以反击。鹿钟麟对此也无可奈何。
鹿钟麟还与山东省主席沈鸿烈结成"冀鲁联防"，合作反共，妄图合伙把八路军挤出冀南。鲁西北的聊城是范筑先领导的武装，有30多个支队，号称铁军。鹿钟麟、沈鸿烈要把这支武装改编成能与八路军对抗的队伍。由于徐向前早已做了联合范筑先的工作，鹿、沈的阴谋终未得逞。
徐向前对鹿钟麟有利于抗日的言行给予支持，对其取消抗日政权等削弱共产党的做法坚决反对，对其挑起的武装磨擦坚决回击。他的具体对策是：动员群众造成反对解散救亡团体、收编八路军枪支和取消主任公署的运动；加紧战事动员，各地开庆祝会，宣传八路军反扫荡的胜利；各专员、县长坚决拒绝交权，各军政团体组织请愿团向省府请愿，等等。
经过冀南党政军民的共同努力，鹿钟麟排挤八路军、取消抗日民主政权的企图未能得逞。中共中央对冀南这段工作表示满意，指示"要总结过去的经验以供"七大"讨论"。
徐向前在山东同国民党顽固派所进行的反磨擦战，更加激烈，已经由以政治斗争为主，转向以军事打击为主，成为打退国民党第一次反共高潮的一个重要组成部分。
徐向前到山东不久，就接连发生了国民党顽固派向八路军进攻的严重事件。1939年8月4日，胶东国民党顽固派郑维屏部，在文登西部葛家集杀害八路军办事处干部3人；国民党暂编十二师赵保厚部进攻八路军掖县根据地，捕杀共产党地方工作人员及家属。9日，国民党第三游击纵队司令秦启荣率部在莱芜以北雪野地方，袭击了八路军山东纵队四支队司令部；5天以后，又在淄河流域围攻山纵2个营达10天之久。这就是有名的"雪野事件"和"淄河事件"。在这之前，3月间，也是这个秦启荣，在博(山)、益(都)边的太和镇，伏击山纵第三支队过路部队，政治部主任鲍辉以下100多人惨遭杀害。
面对山东国民党顽固派反共的嚣张气焰，徐向前认为对于它们的军事进攻，必须采取相应的手段，否则，根据地的建设将面临极大困难。他把情况报到延安。9月，毛泽东在一次与中央社、扫荡报、新民报三社记者谈话时说到："那里的张荫梧、秦启荣是两位磨擦专家。张荫梧在河北，秦启荣在山东，简直是无法无天，和汉奸的行为很少区别。他们打敌人的时候少，打八路军的时候多。"
秦启荣对八路军的进攻不是孤立的。徐向前很清楚，山东顽固派的首领是国民党山东省主席沈鸿烈。秦启荣和沈鸿烈，一个在台前，一个在台后，一唱一和。他们打日本外行，反对共产党很内行。他们对共产党和八路军是见人就捉，见枪就下，见干部就杀，有损抗战的力量，亦在所不计；还提出，"宁亡于日，不亡于共"；"日可以不抗，共不可不打"等口号，其反共的反动面目暴露无遗。
在冀南时，徐向前曾会见沈鸿烈，同他谈过抗日的问题。沈鸿烈对抗日表现不热心，只是反复要求徐向前限定八路军在山东的游击队人数，划定占领地及防区。徐向前反问他："你们在山东的部队限额是多少？你们的防区在什么地方？"沈鸿烈无话可答。徐向前还说："抗日需要多少游击队，我们就发展多少；抗日需要到哪里，我们就到哪里。在中国的土地上，总不能让日本人横行，而对抗日军民加以限制吧！那次会谈无结果而散。
徐向前到山东后，沈鸿烈不仅唆使秦启荣等接二连三地向八路军进攻，而且以政府名义，勒令八路军撤销北海督察专员公署和北海、北宁银行，将诸城、海口交还政府，极力推行分化孤立、封锁给养、武装威胁、收买缴械等反共反八路军的政策。山东纵队有一个统计数字，1939年6月到12月，国民党顽固派向山东纵队所属部队进攻90多次，杀害军民1350多人，还扣押干部战士近千人。这就是说，山东纵队的战斗力，半年多就叫顽固派给消耗2000多人，而在这段时间里，山东纵队同日寇、伪军作战200多次，消灭敌伪4500多人，本身仅伤亡1200多人。
对于像沈鸿烈、秦启荣这样的顽固派，徐向前认为，必须给以坚决的反击。1939年8月下旬，徐向前亲自部署了山东纵队在鲁中淄河流域的反顽战役。这次战役，有一、三、四3个支队参加，连战几日，拿下淄川、博山以东之峨庄、太河、朱崖等地，消灭秦启荣顽军一部，收编一部，缴枪2000多支，残部逃到张(店)博(山)路以西去了。
一一五师和山东纵队其他各支队，也在各地区开展反顽斗争，打击了国民党顽固派的嚣张气焰。
在对顽固派军事打击的同时，徐向前还通过接受记者采访、发表演讲、赠画题词、发表通电等各种方式，大造舆论，揭露顽固派假抗日、真反共的丑恶行径，提醒人们注意顽固派的投降妥协危险。
在反磨擦战中，徐向前十分注意按照党的统一战线政策和策略行事，采取了区别对待的方针。首先是把于学忠和沈鸿烈区别对待。徐向前进入山东不久就发现于学忠与沈鸿烈有矛盾，认为于学忠是中间派，有团结争取的可能。因此在孤立打击沈鸿烈的同时，对于学忠则以争取团结为主，积极做他的统战工作。结果，后来的事实证明，于学忠在反磨擦战中，始终持中立态度，没有与顽固派合流来攻击八路军。在于学忠、沈鸿烈以下，徐向前又把秦启荣等顽固反共者和其他一些国民党将领区别开来。山东地区国民党军队为数众多，最多时大小达200多股，20余万人。这些部队的首领中，有倾向抗日的较进步者，有消极抗日、积极反共的顽固派，也有徘徊于左右之间的中立分子。对他们的政策分别为团结、打击、争取。打击的主要对象是秦启荣。正如徐向前所说："那时，同我们搞磨擦的不只是秦启荣一个人，还有王洪九(国民党游击第十支队司令)和张里元(国民党游击第一纵队司令)等人。王洪九驻地靠日本人的据点很近，很容易同日本人勾结起来，不好武装解决。像他这样的情况，我们采取了警惕他暂不动他的方针。张里元这个人和王洪九有区别，和秦启荣更不一样，他虽然和我们不能很好合作，但我们到他的防地里，他也不把你怎么样，你路过他的防地去打日本，他也让你过去，对于这样的人，我们采取了尽量争取的方针。至于对秦启荣，我们大家是比较一致的，非反击他不行。"
徐向前在山东所领导的反磨擦战，沉重地打击了顽固派的猖狂进攻，广大民众也认清了他们的真实面目，更加增强了坚持敌后抗战的信心，从而使根据地的抗日民主政权得到了巩固和发展。