1939 年6 月，皖東北已進入盛夏，年輕的江上青意氣風發，帶領政工干部張遠及4 名警衛員來到靈璧縣北部協調各部隊的關系。完成任務后，他們乘小船返回皖六區專署，途經睢寧縣李集南八里孜渡口時，一隊人馬突然出現在他們的面前，強行攔截他們。這隊人馬是國民黨蘇北游擊縱隊司令李箐臣的部下，領頭的是大隊長朱士林。隨后雙方發生激戰，江上青等人被捕。
朱士林原是泗縣北的土匪，皖東北第五游擊縱隊一部在剿匪時，曾燒過他家的房子，殺了他的一個遠房弟弟。對此，朱士林一直懷恨在心。當他得知江上青是第五游擊縱隊政治部主任時，以為復仇的機會到了，遂命令部下將江上青等人抓捕，拉出槍斃。江上青知道朱家的事，但他還是想以理服人，他對朱士林說：“以前的事已經過去，如今大敵當前，我們應該一致對外，抗擊日軍才是。”就在這時，蘇北游擊縱隊司令李箐臣趕來了。李箐臣早年留學法國，具有愛國思想，大敵當前，他知道識大體顧大局，當他聽到槍聲和手榴彈的爆炸聲時，不知發生了什么事情，立即帶著衛士排順著爆炸聲響的方向飛馬趕到現場。他看到被抓捕的是皖六區專員盛子瑾的秘書、第五游擊縱隊政治部主任江上青時，對朱士林的做法非常惱火。他對朱士林說明利害，并下令將江上青等人松綁，交還武器。李箐臣上前緊握江上青的手，表示歉意。江上青也向李箐臣表示感謝。
江上青逃過這一劫，誰知兩個月后又遇襲擊。
8 月29 日，江上青陪同盛子瑾到靈璧縣城北張大路與國民黨頑固派代表人物許志遠談判，談判一直持續到傍晚。在返回途中，江上青與朱伯庸率領特務大隊的一個連從原路返回，江上青騎馬奔走在隊伍前面，途經泗縣小灣子村時，遭到一群反動地主武裝的伏擊。江上青身材高大，戴著眼睛，被誤認作盛子瑾，一陣排槍直射過來，江上青與朱伯庸等人應聲落馬。走在后面的盛子瑾聽到前面的槍聲，立即鉆進附近的樹叢。駐扎在附近的八路軍蘇魯豫支隊胡炳云、田維揚大隊聞槍聲趕到時，28 歲的江上青已經停止了呼吸。
江上青原名江世侯，1911年4月10 日出生于揚州。江上青之名出于唐代詩人錢起的一句詩“曲終人不見，江上數峰青”。1927 年，他考入南通中學高中部，讀書期間，結識了顧民元、劉瑞龍，因此加入了共產主義青年團，走上了革命道路。后入上海藝術大學文學系學習，在上海藝大，江上青由共青團轉為中共正式黨員，不久擔任藝大黨支部書記。1931年九一八事變后，江上青在黨組織安排下來到暨南大學社會學系讀書，在這里，他繼續開展學運工作，第二年回揚州創辦《新世紀》周刊。1933年，江上青在儀征十二圩中學教書，在學生中傳播馬克思主義，很多學生在他的影響下走上了革命道路。1938 年5 月，江上青帶領“江都文化界救亡協會宣傳團”到安徽六安，與中共安徽省工委接上了關系。同年11 月，中共安徽省工委宣傳部長張勁夫代表省工委在金家寨約見江上青，宣布任命他為中共皖東北特別支部書記。江上青深知敵后形勢復雜，環境險惡，臨行前作了一副“自祭”聯：“拼將瘦骨埋鋒鏑，常使英雄祭血衣”。隨后，帶領部分特支成員來到皖東北，做國民黨安徽省第六行政區督察專員、第五游擊縱隊司令盛子瑾的統戰工作，并開辟、創建皖東北抗日根據地。當時，江上青的公開身份是國民黨安徽省第六行政區專員公署專員秘書兼保安副司令、第五游擊縱隊政治部主任。秘密身份是中共在盛子瑾部建立的特別支部書記。
江上青犧牲后，泗洪縣宋莊（現孫元鄉）為他舉行了追悼大會。抗戰演劇六隊唱了一曲挽歌《殞星》，歌詞是：“秋風里，殞落一顆大星，殞落一顆大星。你去了，帶著音響，劃過長空。在封建余孽手里，濺了你的熱血，讓幾十里的弱流，親吻你的尸身，無限的哀痛，刻上我們的靈魂。死者啊，你的生花夢筆的江淹，你是朗朗照人的玉山，你是鐵腕斗膽的股肱，打開皖東北的今天。死者啊，愿你手持巨燈，照著我們前行。抹干泉涌的眼淚，掀起倒海的颶風。”江上青的妻子王者蘭也賦詩一首《七律·悼江上青》：“噩耗傳來處處驚，才華未展恨難平。十年壯志山河動，一片丹心日月明。誓撫遺孤承素志，盡除奸慝報深情。黃沙血染英雄骨，碑碣永留萬古名。”
江上青被安葬在泗洪縣崔集。