1940年在淮北合影，左起劉瑞龍、韋國清、鄧子恢、張愛萍
劉瑞龍同志1939年9月奉中共中央電令離開延安安吳青訓班，隨中共中央中原局書記劉少奇奔赴華中敵后。10月初到達中原局駐地河南確山竹溝鎮，11月初到達豫皖蘇邊渦陽縣北新興集。1940年3月，又被劉少奇調到皖東北工作，直到1945年10月奉命調離淮北抗日根據地，抗戰時期，劉瑞龍在淮北大地戰斗、工作了整整六年。這六年中，他嘔心瀝血，忘我工作，與淮北軍民風雨同舟，休戚與共，結下了深厚的情誼。
跟隨劉少奇 轉戰皖東北
1938年2月，劉瑞龍在中央黨校學習結束，由中央組織部調到安吳堡戰時青年訓練班，擔任安吳青訓班教務處處長。教務處分為教務、軍事、講義三科，劉瑞龍主要負責教務。1939年9月，正在安吳青訓班工作的劉瑞龍，接到中央電令：把工作安排后即去西安，隨劉少奇同志到華中敵后工作。
隨劉少奇到華中敵后的，除了他的秘書劉彬外，還有徐海東、曹荻秋、龍潛、許震、宋治民等50多人從延安派出的工作隊。他們從西安出發后，第三天即到達中原局所在地河南確山竹溝鎮。
在竹溝鎮期間，劉少奇同中原局的主要干部朱理治、陳少敏、曹荻秋等同志一起，分析了華中抗戰形勢，研究了貫徹中共中央發展華中方針的具體部署。華中新四軍各支隊雖已完成了戰略展開的任務，但華中敵后還有廣大地區需要去開辟，已創立的根據地還需要鞏固和發展。在會議間隙，劉少奇讓劉瑞龍閱讀兩份文件，一份是毛澤東起草的中共中央關于敵后抗日根據地群眾工作的指示；一份是劉少奇已經發表過的《抗日游擊戰爭的各種基本政策問題》。并囑咐他根據文件精神，起草一份《關于敵后建立抗日民主政權的意見》，在干部座談會上提出討論。這件事，讓劉瑞龍得益匪淺，給他以后的工作出了一道“預習題”，作了思想上、精神上很好的準備。
10月上旬，劉少奇結束了在竹溝的工作，率領干部隊繼續向豫皖蘇前進。一路上，他同干部促膝談心，探討問題，深入調查研究，使干部們受到教育。他還對東進敵后的走向和路線問題，單獨向劉瑞龍詢問，并深入探討。總是提出“由中原向東，走哪些路比較方便？”沿途所經地區的社會階級關系、民情、風俗及物產、交通情況怎樣？劉瑞龍體會到劉少奇同志已經將東進方針具體指向東海邊了。劉少奇還要他研究這些情況，準備回到這些地區去工作。劉少奇還特別關心干部的學習，囑咐干部努力學習馬克思列寧主義理論，重在學習馬列主義的本質、精神和方法，重在理論聯系實際。要干部學習毛澤東同志實事求是、注重實踐的精神。
11月初，他們到達豫皖蘇邊新興集。劉少奇同志聽取了彭雪楓、吳芝圃同志關于新四軍第六支隊和豫皖蘇工作情況的匯報，傳達了黨中央、毛主席關于發展華中、堅決東進的戰略意圖和方針政策。對于鞏固與發展豫皖蘇根據地的方針、任務作了具體指示。要求六支隊在一兩個月后向津浦路東發展。
此后，劉少奇、徐海東、劉彬同志往淮南游擊根據地去了，劉瑞龍受命留在豫皖蘇工作，任中共豫皖蘇區委副書記。從1939年12月到1940年2月，劉瑞龍同彭雪楓、吳芝圃一道，研究了工作要點，調查了當地農村土地租佃、借貸、主雇關系和農民生活狀況，初步擬定了減租減息、合理負擔的要點，并在永城縣發動群眾，進行了減租減息、改善雇工待遇和合理負擔的試點工作。
1944年8月15日，第四師西征出發前在半城合影，左起劉瑞龍、彭雪楓、鄧子恢、張震、吳芝圃
1940年3月初，劉瑞龍奉中原局、劉少奇令調皖東北工作。3月28日，劉少奇致信張愛萍、江華、劉瑞龍同志，指出：蘇皖地區黨與八路軍、新四軍總的任務是，爭取整個蘇皖地區（淮河、寶應、鹽城以北，隴海路南之蘇皖地區）成為我黨與進步勢力管理之下的鞏固的抗日反漢奸的根據地，并在這個根據地上建立統一的抗日民主政權，統一的抗日軍隊及統一的民眾團體，堅持抗戰。并指示，以劉瑞龍、江華、張愛萍、金明、田文揚組成軍政委員會，劉瑞龍為書記。為執行這個任務，劉瑞龍召集軍政委員會根據少奇同志的指示，確定了行動計劃。
8月，黃克誠率部進入皖東北，黃接任蘇皖地區軍政委員會書記，劉瑞龍任副書記。10月，劉瑞龍調任淮海區軍政委員會書記，參加了淮海區根據地的建設工作。
主政淮北行署 開民主施政先河
1941年4月25日，華中局和新四軍軍部命四師向津浦路東皖東北地區轉移。4月下旬，劉少奇、陳毅決定：將劉瑞龍調回皖東北工作，任皖東北區黨委副書記。
1941年8月23日，華中局決定劃淮河以北、隴海路以南、運河以西、津浦路以東為淮北蘇皖地區，撤銷皖東北區黨委，成立中共淮北蘇皖邊區委員會（簡稱淮北區黨委），劉子久、劉瑞龍、劉玉柱、張彥、吳芝圃五人為委員，以劉子久為書記。成立淮北蘇皖邊區軍政黨委員會，鄧子恢、劉子久、劉瑞龍、劉玉柱、彭雪楓、吳芝圃、張愛萍七人為委員，由鄧子恢任書記，統一領導淮北蘇皖邊區黨政軍工作。成立淮北蘇皖邊區行政公署，以劉瑞龍為主任，劉玉柱（后由陳蔭南）為副主任。成立淮北蘇皖邊區軍區，賴毅為司令員，劉子久兼政委。這標志著淮北蘇皖邊區抗日民主根據地正式形成。自此，劉瑞龍主政淮北行署，淮北根據地的民主建設開始比較系統的進行。
1941年9月15日，劉瑞龍在淮北行署成立大會上作了《為實現蘇皖邊區施政綱領而斗爭》的報告，公布了由他主持制定的施政綱領。隨后即將《淮北行署施政綱領》全文刊登在9月21日的《拂曉報》上。這在淮北人民心中，是破天荒的第一次，政府把已經做、正在做、將來還要做的事，系統完整地制定成《綱領》公布出來，告訴老百姓，這也表明根據地建設走上了一個新的階段。劉瑞龍在報告中告訴人民，施政綱領的總目的，就是“團結淮北蘇皖邊區，進行根據地的政治、經濟、文化、教育、軍事的建設，鞏固和發展蘇皖邊區，堅持長期抗戰。”“準備反攻，達到收復失地之目的，驅逐日本出中國。”劉瑞龍在報告中說明了《綱領》的中心內容：加緊軍事建設——開展蘇皖邊區的抗日游擊戰爭；加緊政治建設——開展蘇皖邊區的抗日游擊戰爭；加緊政治建設——使地區迅速民主化，實行新民主主義政治；加緊經濟上的建設——一方面解決戰爭的物質需要，另一方面保障老百姓的生活；加緊文化教育——發展小學教育，培育師資，播撒新民主主義的種子，提高民族的自尊心、自信心，使老百姓了解抗戰技能、抗戰知識，了解大道理。劉瑞龍要求行政工作人員要取一種言必行、行必果的精神來對待這個綱領；依靠統一戰線的力量，依靠各個階級的力量來實行這個綱領，使綱領不單是在辦公室里，應成為廣大人民所努力執行的綱領。他還希望今后要在斗爭中去充實它，不斷地提出新的內容，使得這個綱領更豐富更充實。
劉瑞龍特別關注根據地的文化教育。1941年11月8日，他在全邊區第二次教育行政會議上，專門做了《開展淮北蘇皖邊區的國民教育》的報告。他指出：開展蘇皖邊區文化教育事業與建設蘇皖邊區根據地不可分離；小學教育是國民教育的基礎；要大大地開展社會教育；教育工作要和當前抗戰任務聯系起來；要團結農村各方面人士從事農村教育工作。他希望教育行政人員，努力開展邊區教育事業，配合邊區整個的抗戰斗爭，爭做蘇皖邊區教育工作的模范。
1942年11月，中共中央華中局根據中共中央《關于統一抗日根據地黨的領導及調整各組織間關系的決定》，取消了淮北軍政黨委員會，調整了淮北區黨委成員，由鄧子恢、劉子久、劉瑞龍、彭雪楓、吳芝圃五人為委員，以鄧子恢為書記，劉子久為副書記；撤銷淮北軍區，由新四軍第四師兼淮北軍區。在淮北區黨委的領導下，劉瑞龍主要精力用在主持淮北行署工作方面。在他的主持、領導和努力下，根據地各項建設都取得了顯著成績。
政權建設方面。《施政綱領》頒布后，到1944年底，行署建立了3個行政專署，23個縣政府，168個區署、1048個鄉政府，還建立了邊區和各縣行政委員會與參議會。1942年10月，蘇皖邊區第二屆參議員大會召開，選舉劉子久、吳靜宜為邊區參議會正副議長，劉瑞龍、陳蔭南為行署正副主任，徐風笑、葛萌為邊區高等法院正副院長；討論并通過了劉瑞龍做的《淮北蘇皖邊區三年來的政府工作》報告和150件法規議案；邊區參議會從開始時的民意咨詢機關成為邊區最高權力機構。邊區和各縣政府與參議會的領導成員，都是按照“三三制”的原則選舉產生。特別要指出的是，為團結各界愛國民主人士建設根據地，淮北行署1941年12月25日就專門頒布了《保障人權財權產權及保護工商業條例》，這在淮北地區具有開創性的意義，對推動整個根據地的民主政權的建設具有重大作用。1942年，行署在根據地的基本區實行劃小行政區域，廢除保甲制，改造舊政權，實行鄉選和鄉村制，更便于人民群眾參政和政府法令的推行。
生產建設方面。劉瑞龍主持淮北行署制定和公布了生產建設基本方針，以農業生產為主，以工業為輔，發展私人農家經濟和家庭手工業，組織機關、部隊、學校進行生產。開展減租減息和增加工資運動。還發放農業貸款，幫助農戶解決種子、農具、牲畜等困難。加大邊區的水利工程建設，較大的工程有盱鳳嘉的淮河大堤、泗南的雙峰大堤和大柳巷堤、淮寶的人字頭堤等，疏浚大小河溝400多條，總長4200多里，使農田受益面積達到3.7萬多頃。農業生產逐年發展，改善了民生，提高了人民群眾的抗日熱情和生產積極性。
財經建設方面。一是財糧工作，在財政工作上，實行了統籌統支，建立了收入、支出、倉庫和審計四項制度，其中審計制度，審核預決算方案，監督財政收支，對根據地建設具有重要意義；在糧食工作上按合理負擔的原則，按收獲量分等級累進征收公糧。二是金融工作，1942年6月成立了淮北地方銀號，發行邊幣，一方面同日偽進行金融斗爭，一方面主要用于發展生產和調劑金融，特別是發放貸款，對發展生產，改善人民生活起了很大作用。三是貿易方面，對內實行貿易自由，保護私營商業，發展公營商業，繁榮市場，增加收入；對外實行貿易統制，有計劃地進口必需品，出口剩余品，打破日偽的封鎖和掠奪。邊區財經建設的發展，繁榮了根據地的經濟，打破了日偽對根據地的經濟封鎖。
文教建設方面。劉瑞龍十分重視文化教育事業，在區黨委和行署的領導支持下，他把文化教育事業作為建設與鞏固抗日根據地的一件大事來抓。行署每年的教育經費占到全部地方經費支出的四分之一強。他注重培養和使用知識分子，還大力鼓勵與吸收敵占區知識分子到根據地任教。邊區先后創辦了抗大四分校，江淮大學、淮北中學、行政學院、建設學院（培養中學師資）、衛生學校、職業學校和各種訓練班，培養了大批干部。開辦了十余所中學，800多所小學。在文化方面，邊區設立了文化協會、戲劇協會、青年記者協會等文化團體；設有拂曉出版社、教育出版社、大眾出版社，出版《拂曉報》《人民報》《團結報》和《拂曉》《政府工作》等20多種報刊；還成立了軍隊的、地方的文藝工作團、劇團等。這些工作的開展，豐富與活躍了根據地的文化生活，推動了根據地文化教育事業的發展。
根據地各項建設事業的發展、有力地鞏固和發展了淮北抗日根據地，為淮北軍民奪取抗日戰爭的最后勝利奠定了思想和物質基礎。
劉瑞龍還經常深入到行署各工作部門和邊區縣、區、鄉基層組織，調查研究，及時發現新情況、新問題，改進和健全行署的工作。他深入基層，克己奉公，聯系群眾，平易近人，一心為黨工作，為人民辦實事，贏得了邊區干部群眾的普遍贊譽，淮北人民稱贊劉瑞龍為“我們的好主任”、“根據地人民的群眾領袖”。
1945年10月，蘇皖邊區政府在淮陰成立，劉瑞龍調任副主席，遂離開了淮北，淮北人民一直惦念他。