我們黨歷來重視造就人才和培養干部，即使在對敵斗爭最嚴峻的年代，亦是如此。
1939年12月1日，黨中央發出《大量吸收知識分子》的決定中指出：“在長期的殘酷的民族解放中，在建立新中國的偉大斗爭中，共產黨必須善于吸收知識分子，才能組織偉大的抗戰力量，組織千百萬農民群眾，發展革命的文化運動和發展革命的統一戰線，沒有知識分子的參加，革命的勝利是不可能的。”1940年年底毛主席在《論政策》中又指出：“應容許資產階級自由主義的教育家、文化人、記者、學者、技術家來根據地和我們合作，辦學、辦報、做事。”1941年正在華中局主持工作的劉少奇同志在蘇北參議會上更明確指示：“要在根據地發展文化教育事業，要創辦大學，為革命事業培養和輸送人才”，并具體要求在華中局，應主要依靠上海，由江蘇省委（當時上海地下黨由江蘇省委領導）來具體考慮組織落實這一項工作。
江蘇省委書記劉曉召集省委有關同志和上海地下黨同志，詳細分析了根據地和太平洋戰爭爆發后上海的形勢并與新四軍軍部具體聯系商議，決定在抗日民主根據地創辦一所綜合性大學，所以要辦這樣一所綜合性大學，是因為它能比“抗大”爭取到更多的知識分子。
江蘇省委籌備創辦一所大學的決定，經過中共中央華中局批準，由新四軍軍部領導并解決經費。陳毅同志親自為學校定名為“江淮大學”。籌辦工作由江蘇省委負責，上海地下黨盡可能組織動員更多的師生去根據地，新四軍軍部籌備接待機構和交通站，四師抽調石青、林光前等同志組成了淮北接待站。地下黨則派出韓述之（張剛）、姚溱（不久因另有任務調離）、方行等同志前往淮南新鋪設立青年招待所，專門接待由滬來校的師生，保證他們能安全到達根據地。江蘇省委還決定由宣傳部長沙文漢同志負責江大籌備工作，并指示由省文委梅益同志、省學委張本同志在上海進行教師和學生的組織動員工作。到校師生先在淮北、淮南兩地集中，然后在淮北根據地淮寶縣仁和集（今洪澤縣仁和鎮）正式開學。從1942年9月一直堅持到1944年6月停辦，前后近兩年時間。
江蘇省委決定，經華中局批準，任命韋愨為江淮大學校長。韋愨同志原是上海之江、復旦、大夏大學教授，曾留學美國，早年參加過辛亥革命，后任孫中山先生秘書和廣東省教育廳廳長，他長期和我黨合作，抗日戰爭時期是進步刊物《譯報》和《上海周報》的撰稿人。知名經濟學家何封、哲學家李仲融也響應黨的號召，自愿到江大任教。應韋校長聘請去根據地任教的，還有復旦大學土木系主任孫繩曾教授，之江大學土木系教授陳端柄，交通大學教授姜長英、葉家俊、葛文錦，清華大學周國英，大夏大學王書倫、馮邦彥和李洪鐘等生物、醫學、教育、外語、體育教授約10余位，另有校醫2人，護士4人。為了使他們能適應根據地生活，還同意他們帶1名廚師。對他（她）們留滬的家屬，其經濟和生活均由組織上作了妥善安排。同時響應黨的號召赴校任教的還有助教王辛南、榮繹蓉、洪之階、許景福、顏秀卿、馬麗娟等10余人。
江大學生主要來自上海之江、復旦、大夏、滬江、東吳等大學和蘇州工專，以及部分中學，前后兩期約120余名（男女各半）。他（她）們都是由上述各校黨組織動員來的。如之江大學地下黨首批就動員了尹懿華、姚守綺、王慎言等14名同學前往。兩期江大學生，大體可以分以下幾種類型：一是已經受到敵偽注意、或被組織上派遣去江大作學生工作的地下黨員（第一期18名黨員，第二期24名黨員）；二是參加過黨領導的進步活動的培養對象或積極分子；三是對國民黨腐敗統治不滿，不甘心在日寇占領下做亡國奴，要求抗日，向往光明的愛國青年；四是懷著讀書救國的思想繼續學習的愛國青年；五對家庭生活不滿，對紙醉金迷花花綠綠的世界反感，不愿過剝削階級的寄生生活，或對舊社會重男輕女、家庭包辦婚姻制度不滿，竭力想擺脫舊制度、舊禮教束縛的男女青年；六是在師長、兄長、朋友的影響下，帶著天真美好憧憬的年輕人。各人的家庭出身、政治覺悟程度雖有不同，但在要求抗日、向往光明這一點上是一致的。
從1942年8月至11月短短兩個月左右時間，上海100多名師生，在黨內交通的妥善安排下，突破敵人的重重關卡，全部安全到達根據地。
1942年9月間，韋校長及孫繩曾、陳端柄等教授到達淮南，立即受到新四軍副軍長張云逸以及江蘇省委沙文漢等領導同志們的親切接見。不久就是新四軍建軍節，他們和江大師生均被邀請共同歡慶。大會由張云逸副軍長主持，由二師鄭位三政委講話。韋教授也發了言，表示要把江大辦好，并抒發了自己從淪陷區初到根據地的舒暢心情。
江大原擬設土木、農學、醫學、教育四個系及普通科，于1942年秋分別在淮北、淮南兩地集中，以后由于敵情發生變化，淮北的同學都集中到淮南。由于當時具體困難比較多，師資缺乏，老師也沒有到齊，各系都未能開課，但同學們的學習熱情很高，當時主要是請新四軍和當地黨政軍領導同志介紹情況、作專題報告。學校利用根據地里的祠堂、廟宇以及地主家的宅院作為校舍，以廣闊的田野和樹林作為課堂，大家認真聽、用心記、熱烈地討論，在知識的海洋里翱翔。
先在淮北集合的江大師生，受到新四軍四師黨政軍領導同志的熱烈歡迎。先后聽了彭雪楓師長、鄧子恢政委和淮北行署主任劉瑞龍、區黨委宣傳部長馮定等同志的報告。
1942年11月，日寇加緊對根據地“掃蕩”。為了準備反“掃蕩”，江大師生乘船回淮寶，經洪澤湖平安地抵達仁和集。幾天后又向淮南轉移。經過幾天的行軍，終于到達張洪營。兩部分師生勝利會師了。
當時淮南的軍政干部，正在進行整風學習，江大同學會師后，也抓緊時間組織起來自學整風文件，呈現出一派生機勃勃的學習情景。1942年冬，日寇妄圖對淮南根據地“掃蕩”，根據地軍民積極作反“掃蕩”準備，大規模進行破路和全面堅壁清野。因江大目標太大，行動不便，就決定暫分幾路去邊區農村“打埋伏”，韋校長及教授們必要時則隨領導機關轉移。在“打埋伏”期間，不少同學參加了當地的冬學工作，各自施展了自己的特長；有的分成若干組，作農村調查，向貧苦農民學習，和他們同吃同住同勞動，并幫他們擬定發家計劃，很受廣大貧苦農民的歡迎，不少同學還受到當地政府的表揚。由于根據地軍民有了充分的反“掃蕩”準備，日寇未敢輕舉妄動。可是它野心不死，還在醞釀更大規模的“掃蕩”。領導上為了保障江大的安全，于1943年初春動員大家暫返滬隱蔽，等到情況好轉環境穩定時再來入學。由于師生們與根據地軍民建立了深厚感情，誰也不愿意離開這個自由天地，都要求留在這里參加反“掃蕩”斗爭，因而黨支部在做動員工作時極其困難。經過耐心說服，大家才以大局為重，表示服從組織決定。同學們一面唱著《新四軍軍歌》《黃水謠》，一面流著眼淚，連梅益同志也哭了。最后除6個同學不宜回滬留在根據地工作外，其余均依依不舍地分批回滬，還一再說只要通知一到，即刻回根據地來。
江大同學陸續回上海“打埋伏”，根據地黨支部和上海地下黨的囑咐，一是隱蔽好，不出問題；二是布置一些黨員和擔任交通的同學，定期與大家保持聯系，做好思想工作，并要求回滬同學盡可能學習一技之長，以便返回根據地后為更好地學習和工作創造條件。
1943年春，陳毅同志在醫院，專門把韋校長請去面談，向他傳達了黨中央“抗戰必勝”的指示，并指出目前江大雖不開學，但一定要堅持辦下去，要求他抓緊做好開學的準備工作。六七月間，江大開學的通知到了上海，除少數同學已由上海地下黨分配了工作、一些同學因分散隱蔽未及時接到通知外，大部分同學都積極返校。10月5日，江淮大學在淮北根據地淮寶縣仁和集隆重舉行開學典禮。陳毅、張云逸、彭雪楓、劉瑞龍、潘漢年、范長江、季方等領導同志都出席了開學典禮，地區負責同志和抗大四分校、淮寶中學都派來了代表。上午開會由韋校長主持，他致詞后，陳毅、彭雪楓、季方等同志講話，使全體師生受到了極大的鼓舞和教育。
1944年春，敵我形勢發生了根本的變化，八路軍、新四軍在敵后作戰連連告捷，根據地迅速發展，急需補充大量干部，江大本身也由于師資缺乏，難以再辦下去。經研究決定，江大停辦，全部同學由軍部及地方黨委統一安排工作。同學們也根據各自的志愿、特長和工作需要，于1944年6月，懷著對母校難忘的感情和投身革命的抱負，走上新的戰斗崗位，在根據地的宣傳、組織、新聞、教育、衛生、民運等各條戰線，發揮自己的才干。
由于受敵后戰爭環境和師資條件的局限，江大辦的時間不長，規模不大，學生人數也不多，但她的影響和意義卻十分深遠。用梅益同志話說:作為青年人的匯集單位，江大是很有生命力的，應該說有一種凝聚力量。這種凝聚力，就是革命的理想，共產主義的理想。在黨的統戰史上和中國教育史上留下光輝的一頁。