一九三九年五月，党中央根据北方局的建议，决定我和朱瑞同志率一批干部去山东，加强那里的敌后游击战争领导工作。这项重要决定，与抗日战争进入新阶段的形势、任务，密切相关。
　　自从广州、武汉相继失守后，抗日战争进入相持阶段。日军因矛盾重重，困难加剧，被迫停止了正面战场的战略性进攻，转而制定了“确保占据地区，促进其安定；以坚强的长期围攻姿态，扑灭残余的抗日势力”的作战方针（日军大本营《陆军作战指导纲要》）。据此，将参加武汉会战的兵力大部回调，集中“扫荡”我敌后抗日根据地，企图将山西、河北、山东的游击战争烈火扑灭，迅速“恢复治安”，以巩固其侵略统治。

　在此同时，日寇对国民党实行诱降政策，妄图实现“东方慕尼黑”阴谋。国民党对日妥协投降的危险倾向，日趋明朗化。汪精卫公开认贼作父，投入日本侵略者的怀抱。蒋介石加紧“限制异党”的步伐，积极制造反共摩擦，同日寇加紧秘密勾结。在山东，蒋介石派于学忠为苏鲁战区司令，沈鸿烈为副司令（兼山东省府主席），率军抢占沂蒙山区的一些要点，与原山东境内的十余万国民党地方武装相配合，与我抗衡。一九三九年二、三月间，沈鸿烈公然提出“统一划分防线”、“枪不离人，人不离乡”、“统一行政，军不干政”、“给养粮秣统筹统支”等四项条件，限制八路军。不久，又规定我山东纵队只能在泰安、徂徕山以南、滕县以北、津浦路以东活动，实际上想将我驱入敌伪兵力集中的滕县、宁阳、泗水地区，假手敌人，予以消灭。国民党军政部也直接令山东纵队去北宁路作战，限制我向南发展。摩擦和反摩擦的斗争，日益尖锐化。

　山东的抗日武装力量，亦需加强统一集中的领导。早在一九三七年底前后，中共山东省委即根据党中央和北方局的指示，领导了天福山、盐山、黑铁山、徂徕山、泰西、鲁南等一系列抗日武装起义，形成十多块根据地和游击区，为山东的抗日游击战争，奠定了发展基础。后来中央又令一一五师、一二九师抽调兵力，进入山东开展工作。至一九三九年夏，全省已有三支主力武装部队，总兵力达七万人左右。一是由原地方起义武装为基础，改编为八路军的山东纵队。张经武任纵队指挥，黎玉任政治委员，辖八个支队，活跃在鲁中、鲁南及胶东地区，兵力约四万余人。二是由一一五师三四三旅、一二九师津浦支队为基础，组成的八路军东进抗日挺进纵队。肖华任司令员兼政委，开创了冀鲁边平原根据地，控制着津南、鲁西北的十五个县份，兵力共两万余人。三是一一五师师部及六八五团。由代师长陈光、政委罗荣桓率领，于一九三九年春进入鲁西平原，与湖西地方武装合编为苏鲁豫抗日支队，战斗在泰西、运西地区，兵力约八千人。加强对这三支武装力量的统一领导，密切协同配合作战，是粉碎日寇进攻和国民党的摩擦，坚持和发展山东游击战争，积聚抗日反攻力量的关键一环。

　接到中央的命令后，我就从冀南的威县出发，在馆陶会合朱瑞等同志，准备去山东。朱瑞是从山西来的，带着一百多名干部，包括王建安、罗舜初、徐黎平、谢有法、刘志超、李竹如等同志。这些干部，都是从八路军总部、一二九师、抗大一分校交挑选出来的，年轻精干，生龙活虎，有较丰富的战斗经验。在馆陶，朱瑞同志传达了中央关于反对投降派、争取中间派、打击顽固派的指示，使大家明确了当前的形势、任务和行动方针。六月上旬，我们从泰安以南过津浦路，进入沂蒙山区。在沂南县东辛庄纵队指挥部驻地，会见了中共山东分局、山东纵队的郭洪涛、张经武、黎玉等领导人。张、黎二同志，我在冀南曾见过。那是头年的十月间，他们从延安带了一百六十多名干部，路过冀南去山东。我和他们在南宫交换意见，研究如何发展山东游击战争的问题。我们还从津浦支队抽调了一个建制营，跟他们去开展工作。对我和朱瑞等同志的到来，他们十分高兴，表示热忱欢迎。

　鲁中南的沂蒙山区，群山巍立，气势磅礴，象征着山东人民强悍勇敢、质朴坦荡、凛然不屈的性格。我们刚到那里，正赶上日寇发动的第一次鲁中大“扫荡”。从六月一日起，日军两万余人在植田大将指挥下，以津浦、胶济、陇海路东段及烟（台）潍（县）公路要点为出发地，兵分十路，分进合击我沂蒙山区腹心地带。驻扎在莒县、沂水、蒙阴等地的大批国民党军队，闻风丧胆，逃之夭夭。敌人“扫荡”的巨大压力，全由我根据地军民承担。我们来不及详细了解各根据地的情形，便全力投入指挥反“扫荡”的紧张斗争中。

　山东纵队是自力更生白手起家的。成立时间短，战斗经验少，干部缺，装备差。初次遇上敌正规部队的大规模“扫荡”，处境异常艰难。好在沂蒙山区地势险峻，回旋余地广阔，部队熟悉地形民情，又有青纱帐和群众掩护，便于分散游击，打击敌人。该纵第一、二、三、四支队与各地游击队、自卫团结合，内外线协同作战。经月余辗转战斗，重点袭击敌人的交通线和薄弱环节，切断敌军后勤供应，拖得敌人精疲力竭，损失惨重，兵员、粮食无继，终于结束“扫荡”，收兵回巢。就在这次反“扫荡”中，我一支小分队十八名指战员，在岱崮山抗击五百多日军的进攻，最后被逼到一座悬崖上，子弹打光，全部跳崖牺牲，被誉为“十八勇士”。 鲁中军民经过反“扫荡”锻炼，经受了考验，增强了斗志，提高了杀敌本领。

　反“扫荡”结束后，我们在了解情况的基础上，着手统一建制，健全领导机构。八月初，经中央批准，正式组成八路军一纵队，徐向前任司令员，朱瑞任政治委员，统一指挥山东和苏北地区的八路军部队。原苏鲁豫皖分局改为山东分局，由郭洪涛、徐向前、朱瑞、罗荣桓、黎玉、张经武、陈光、彭雪枫组成，郭洪涛任书记。山东军政委员会亦成立，统一领导山东的党政军民工作，由朱瑞、徐向前、郭洪涛、罗荣桓、黎玉为委员，朱瑞为书记。十八日，我和朱瑞在《大众日报》上发表就职通电，晓谕各方。一方面是要造点声势，显示八路军的抗战决心；另方面有个正式头衔，好同国民党头面人物打交道，开谈判。

　八路军一纵队辖山东纵队、一一五师一部、冀鲁边东进抗日挺进纵队及苏北境内的抗日武装力量。山东的部队分散在奋地区，建立一个统一领导的机构是必要的。但有些部队，如陈光部、杨得志部、肖华部等，均独当一面，距离我们较远，又能同党中央和总部直接联系，因而相对保持其独立性，也是不奇怪的。我和朱瑞同志的领导重心，放在山东纵队。
　　山东纵队的领导干部，配备得不弱。纵队指挥张经武，政治委员黎玉，副指挥王建安，参谋长王彬，政治部主任江华。辖十多个支队和军分区。那时的编制不正规，干部调动频繁，哪些同志在哪个支队、分区担任领导工作，已记不太清了。我记得的支队领导干部有：马保三、吴克华、徐斌州、景晓村、杨国夫、胡奇才、廖容标、阎世印、周赤萍、孙继先、高锦纯、林浩、霍士廉、刘海涛、潘寿才、马千里、汪洋、王文、刘其人、王一平、王兆相、赵杰、王子文、仲曦东等人。在纵队机关和山东分局的领导干部有：潘复生、罗舜初、刘居英、谢有法、刘子超、李竹如、郭子化、吴仲廉、冯平等人。他们中间，除了中央派来的红军干部，就是本省徂徕山等地起义的领导骨干。这对我们开展工作，是个极为有利的条件。
　　王明路线统治时期，山东地区的党组织受到严重破坏，元气大伤。抗战开始后，才有了较大的发展。我们去的时候，全省共有党员五万一千五百余人。其中，鲁南地区一万五千人，鲁西地区八千余人，胶东地区一万二千二百人，冀鲁边及清河地区八千余人，苏鲁豫边八千人，苏皖边三百余人。山东分局计划，短期内再发展五六万名党员，可达十一万人左右。各区、县党组织的主要任务是发动民众，组织地方武装，配合主力部队打击日本侵略者。党员的数量虽然不多，但分布面较广，遍及全省各个地区，扎根在三千八百万人民群众之中。这也是我们开展工作的一个有利条件。

　　发动群众建立政权
　　坚持独立自主的敌后游击战争，巩固和发展抗日根据地，离不开建立抗日民主政权。
　　山东的游击战争，虽然有了较好的基础，但政权建设工作，还没有跟上去，是个薄弱环节。就拿鲁中、鲁南来说，因为没有建立抗日民主政权，只能算个游击区，谈不上是巩固的抗日根据地。我们刚去，感触最深的是吃饭问，题，“叫化子要饭”，部队走到哪里，要到哪里。吃了上顿没—卜顿。因为自己没有政权，不能顺利地筹粮筹款，几万部队的穿衣、吃饭、医药、装备等，很难解决。发动群众也不好办，部队在的时候，把群众发动起来，可是一走，群众就散了。象行云流水一样，扎不下根基。政权在谁手里呢?在国民党手里。除了敌占区外，县长、区长、乡长多是国民党的人，听于学忠、沈鸿烈的，不听我们的。处处卡我们，不仅不供应八路军粮食、衣物等，还威胁群众，限制群众同八路军接触。他们作威作福，鱼肉乡民，苛捐杂税之多，令人咋舌。有的还与日寇、汉奸暗中勾结，干卖国勾当，袭击八路军。党中央曾指出；“山东方面过去退让太多，如接受取消北海行政公署及北海银行；未能于省府、县长西逃时普遍委任自己的县长；有些已委任的，复接受沈鸿烈命令撤销3秦启荣形同汉奸，多次向我进攻，未能给予有效还击。如上述情形不加改变，山东创造根据地与坚持抗战是要受挫折的。”(一九三九年四月《中央对山东问题之处置办法》)因而，打破国民党的限制、束缚，放手建立自己的抗日民主政权，是巩固和发展山东抗日根据地的当务之急。

根据当时的具体情况，我们建立政权，采取了两种形式。
　　一种是公开建立抗日民主政权，这是基本的、主要的形式。
　　我抗日根据地内或条件具备的地方，一律经民主选举，产生我党领导的统一战线的各级政权机构。雷厉风行，发号施令，行使职权。那时还不叫“三三制”，但各级政权机构中不光是共产党员、工农和群众代表，还包括进步人士、开明土绅、社会名流等。所以容易调动各方面的力量，稳定局面，坚持抗战。山东是著名的齐鲁之邦、孔孟之乡，有重视文化的传统。且不说交通发达的城镇，就是穷乡僻壤间，也不乏书香门第，差不多每个区乡，都有举人、秀才、教师、医生等人物。还有些是从大城市跑来根据地抗日的作家、记者、学者、社会名流等。他们多数有爱国思想，拥护八路军抗战，在群众中有一定影响，又有文化知识，参加各级政权机构，对我们有好处。
　　鲁中敌人大“扫荡”时，相当一部分地区的国民党政权塌台，县太爷们逃得无影无踪。一时之间，成了无政府的空白区。好得很！我们抓紧这个机会，快刀斩乱麻，在莱芜、新泰、蒙阴、沂水、临朐、东平、平阴、宁阳、泰安等县，搞了一大片政权。那些国民党县、区、镇长大摇大摆地回来，没有人买他们的帐，只得夹着尾巴溜掉。这类地区的政权建立工作粗糙些，形势逼出来的，当然要做许多善后工作，逐步调理和巩固。到一九四○年三月间，山东境内完整与不完整的民选县政权有四十多个；年底，发展到九十多个县政权及一个行政主任公署。山东省参议会亦宣告成立，由进步人士范明枢任议长。他是位德高望重的抗日“老寿星”，年近八旬，仍不辞辛劳，为抗日事业忙碌奔波。不久，还成立了黎玉任主任委员的战时工作推行委员会，实际上行使山东省政府的职权。
　　各级政权机构建立后，积极开展工作，创造新局面。在扩大兵员上，通过深入宣传、拥军优属等活动，动员大批青壮年参加八路军，形成了参军、拥军的热潮。在统筹部队给养上，实行按土地多少，合理负担，统一征粮的办法，部队所需的粮食，一律由县政府筹粮机构按计划供应和调援，初步改变了过去“走到哪村吃哪村”的状况。在土地政策上，贯彻减租减息、低利借贷，调动广大农民的生产积极性，组织农民抢种抢收，多打粮食，支援抗战，改善生活。在财政上，取消名目繁多的苛捐杂税，减轻人民负担；按照累进税原则，征收必要的税款；发行货币，抵制伪币，流通金融，繁荣商业；开源节流，利用各地的资源，多办些小型矿业、工厂、手工业生产，严禁贪污浪费。在地方武装工作上，各县均组织自卫团，发展区、乡、村的自卫武装力量，担负站岗放哨、侦察敌情、清除汉奸、保卫政权、配合主力部队作战等任务。这一系列工作，显示了抗日民主政权的优越性，得到了广大人民群众的拥护。

　另一种是建立“两面政权”。这是在敌占区或敌我双方经常拉锯的边缘地带，形成的一种秘密政权形式。
　　这类政权，表面上是敌伪建立的，为敌人服务，而实际上却被我们挖了墙角，变成八路军的有效工具。例如，随着我军力量的壮大，声威的提高，我们在鲁南、鲁中、鲁西、胶东及胶济铁路沿线上，就逐步发展了不少基层“两面政权”。一个村的村长，名义上是敌军委任的，但被我们争取过来，那里就成了八路军的“庇护所”和情报站。送情报，他给日本人送的是假的，给我们送的是真的。我们过铁路，就象电影《平原游击队》里那样，村长敲着锣喊：“平安无事喽！”迷惑敌人，掩护我军安全通过。我们在村子里吃住，他好好招待一番。临走时，部队才派人把他绑在树上。敌人来了骂他为什么不报告，他说：“你看，他们把我绑在树上，我怎么去报告呀！”就蒙混过去了。这也是在特定历史环境中造就的一种能人，他们经过风雨，见过世面，不甘心当亡国奴，有套应付复杂局面的本领。当然，关键在于八路军是真正抗日的，有实力，又有正确的政策，因而才能吸引他们，团结他们，改造他们，把他们从敌人营垒中分化出来，变成对抗日有用的力量。
　　另外，还注意了发动群众争取民主，促使国民党政权民主化。

　　国民党政权鱼龙混杂，什么人都有。有进步的，中间的，顽固的，也有汉奸、特务，五颜六色，不一而足。我们的方针是，团结进步势力，争取中间势力，孤立顽固势力，尽力促使其进步化、民主化。在统一战线的旗帜下，经常通过宣传舆论、派人谈判、召开宪政促进会等方式，要求国民党的各级政府官员，从抗日大局出发，贯彻三民主义，实行减租减息，免除苛捐杂税，改良人民生活，打击和清除汉奸势力。就是说，要他们多办好事，少干坏事。统一战线的基础力量，是人民群众。民心不可侮。国民党有些人士也懂得这一点。我们就发动群众，对付他们，制约他们。一九三九年日寇对鲁中大“扫荡”前，国民党顽固派把山东的所有群众抗战组织通通解散，以官办“群众团体”取而代之。这些“群众团体”平时耀武扬威，摇旗呐喊，颇有点声势，但一到“扫荡”来临，便同国民党官员一样，夹着尾巴逃得不见踪影。国民党搞“官办”，我们就搞“民办”，在各地发动群众，组织自己的抗日团体，什么宪政促进会啦，妇女救国会啦，自卫团啦，如雨后春笋般地建立起来，猛烈扩展，形成强大的洪流，压迫国民党政权倾听群众呼声，不能为所欲为。在我根据地内，各种群众团体是民主政权联系群众的桥梁，八路军的得力助手，对粉碎敌人的“扫荡”，巩固和扩展根据地，发挥了重要作用。

　在此期间，我和于学忠进行过一次谈判，中心内容也是谈政权问题。于学忠住在东北军驻地，距我们只有三、四十里。解方同志在东北军，当时叫解沛然，从事我党的秘密工作。有天夜里，我和朱瑞等同志按照事先约好的地点，与解方同志会见。他汇报了对东北军的统战工作情况，介绍了于学忠的政治态度，认为此人原是张作霖、张学良的老部下，在国民党里受排挤，倾向联共抗日，属于中间派，可以争取，但目前对我们建立政权很不满意。军政委员会商量的结果，决定由我出面，代表八路军和于学忠进行一次正式谈判，缓和矛盾，争取他向我们靠拢，以便更好地孤立顽固派沈鸿烈、秦启荣等。有天，我带上警卫参谋，骑马到于学忠住地，他很客气地接待了我们。双方先是讲了一些联合抗日的话，强调在东北军和八路军之间，没有根本利害冲突，应当团结对敌。接着，他的话题就转入政权问题。他说：你们抗日，就不要搞地方政权了。八路军是军队，不能搞政权，你们也搞政权，我这个省政府怎么搞哇！我说：我们是抗日的军队，要搞抗日根据地，就得建立政权，发动群众。有了政权，有了群众，才好打日本鬼子。而且，不建立政权，我们没有饭吃。你们的政府，一不给我们粮款，二不给我们枪弹，连应该发给八路军的薪饷都不给，我们不搞政权怎么办?他说：各级政府要由我们委任，不经过我们任命，不能算数。我说：关键在于群众是不是拥护，我们的抗日民主政权是经群众民主选举产生的，得到群众真心实意的拥护，这是真正的民主，同你们的委任根本不同。群众不拥护的东西，委任了也没有用！围绕政权问题，双方针锋相对，争论了两个多小时，未能取得一致意见。因他是我们的争取对象，我在谈话中注意了掌握分寸，留有余地，求同存异，避免把关系搞僵。
　　谈判回来，我们仍按自己的办法干，到处建立抗日民主政权。于学忠睁一只眼闭一只眼，拿八路军没办法。独立自主嘛，不搞政权，“一切经过统一战线．一切服从统一战线”，手脚被人家捆住，八路军就不可能生存、发展，壮大。军政委员会在这个问题上思想统一，决心也大，因而短期内取得了较显著的成绩。

当然，山东抗战的新形势、新特点，以及新成份的大量涌入，也使部队面临着如何进一步加强建设和提高的问题。另一个是山东纵队。它是抗战初期自力更生、土生土长发展起来的。在那么短的时间里，发展到那么大的规模，担负那么繁重的任务，很了不起。中央曾经指出：“山东工作在同志们艰苦创造中，已获得巨大成绩。(在)没有八路军和没有足够数量的具有军队经验的干部帮助条件下，地方党单独已经创造出较有战斗力走向正规化的军队，它将成为坚持山东抗战的主力军。”这个评价，是适当的。