新四軍第二師是堅持淮南地區抗日反頑斗爭的一支勁旅，在戰斗中先后涌現了一批作風頑強、作戰勇敢、克敵制勝的英雄團隊，其中被師部授予“鐵錘子”團的有兩個，授予“金鋼鉆”團的有兩個。
兩個“鐵錘子團”：四旅十一團和六旅十六團
這兩個團的老底子都是紅軍團。十一團前身是成立于1935年1月第二次組建的鄂東北獨立團，1938年春改編為新四軍第四支隊第九團，1941年2月整編為新四軍第二師第四旅第十一團。十六團前身是組建于1934年11月的鄂豫皖邊區第一個鄂東北獨立團，1941年2月整編為新四軍第二師第六旅第十六團。
1941年10月，國民黨桂頑為策應湯恩伯集團東犯我淮北根據地，以第七軍第一七一師副師長兼第十游擊縱隊司令李本一，率第五一一團和第十游擊縱隊兩個支隊，侵占我路西根據地之合肥、全椒間地區后，又以第一七一師第五一一團一營和定遠縣常備大隊等部1000余人，向我中心區進攻，侵占我廣興集、周家崗、大橋等地。新四軍二師首長決定集中四旅十一團和六旅十六團等6個團的兵力組織反擊。11月11日晚，擔任主攻的十一團組成兩個偵察小組，由團長吳華奪率領，秘密進至大橋周圍偵察地形、頑情，熟悉道路，并通過訪問居民，了解敵人縱深情況。12日上午，團對兵力作了具體部署。
16日22時，十一團隱蔽進至大橋南北，完成了對頑包圍。團突擊隊沿小河東側河堤，摸到小河西南側頑哨兵附近，完成了攻擊準備。23時30分，南北同時發起進攻，團突擊隊以突然勇猛的動作，一刀將頑哨兵砍死，百余名隊員乘勢越過圍墻進入小街，以大刀、手榴彈與頑軍展開激戰。頑軍遭突然打擊后，向小街中心龜縮。第一營三連八班長冒著烈火爬上屋頂，向頑軍連續猛投手榴彈，炸得頑軍四處亂竄。戰至17日凌晨1時，定遠縣常備大隊被全殲。
在這同時，二營分別向大橋西北頑軍外圍陣地發起攻擊。四連連長傅紹忠身負重傷，仍堅持指揮，于17日凌晨3時占領了北頭陣地。
17日6時，一營在教導員的帶領下和團突擊隊向大街頑軍發起攻擊，戰至11時，數次攻擊均未成功，戰斗呈膠著狀態。團長吳華奪重新調整和組織兵力火力后，二連在大街東北前沿激戰20分鐘，突破圍墻，乘勝猛插，于12時40分占領大街東北側房屋。頑軍營長見勢不妙，企圖組織突圍。我一連連長和一營通信排長，用擲彈筒準確地向頑軍營部大院射擊，將幾個連長擊斃、擊傷，頑軍頓時大亂。15時10分，戰斗勝利結束。
六旅十六團在1941年11月反擊桂頑的大橋—新張家戰斗中，任務是阻擊由廣興集、山頭集增援大橋的頑軍。當十一團猛攻大橋時，十六團埋伏于新張家一帶。17日下午，頑軍第五一一團一個加強營出援，進入我伏擊圈時，全團指戰員突然猛烈出擊，打得頑軍蒙頭轉向。三營利用有利地形，集中5挺機槍，向頑軍密集射擊，并乘勢發起沖擊。一營和特務連出其不意地突擊頑軍側背，殲其一部。戰至午夜，殘頑大部被殲，只有營長率少數殘兵憑借民房頑抗。擔任最后解決戰斗任務的二連采用火攻，迫敵營長率殘部繳械投降。此戰，十六團全殲桂頑一個加強營，俘頑營長以下300余人。
大橋—新張家戰斗，給頑軍以痛擊，使我根據地得以鞏固和發展。戰后召開了隆重的祝捷大會，羅炳輝副師長代表二師授予四旅十一團“鐵錘子團”的稱號；路西聯合指揮部首長代表師首長授予六旅十六團“鐵錘子團”稱號。
十一團在解放戰爭后期編入第三野戰軍第二十一軍第六十一師為第一八二團。該團南征北戰幾十年，先后涌現出“雙大功營”、“特等戰功連”、“攻堅英雄連”等英模群體。2008年汶川大地震爆發后，該團上千名官兵奉命開赴隴南執行抗震救災任務，受到災區人民群眾的高度贊譽。
十六團在解放戰爭后期，編入第三野戰軍第二十五軍第七十三師為第二一七團。1952年8月，該團隨師劃給第二十三軍建制，番號不變。1969年3月參加了珍寶島自衛反擊戰。中央軍委授予該團華玉杰、冷鵬飛和烈士王慶容以“戰斗英雄”榮譽稱號。1998年在體制編制調整改革中，該團被撤消番號和建制，縮編為摩步營。
兩個“金剛鉆團”：四旅第十團和路東獨四團
四旅第十團前身為1934年11月由分散活動的原紅八十二師、皖西游擊師及紅二十五軍長征后留在皖西的一些部隊合編而成的紅二一八團，1935年2月重新組建紅二十八軍時，改為八十二師二四四團。1938年春改編為新四軍第四支隊第七團，1941年2月整編為第二師第四旅第十團。
1941年10月，十團奉命參加陳道口戰役。16日夜對主圍子發起總攻，十團擔負正面突擊任務。在團長秦賢安的指揮和火力掩護下，破障組以各種就便器材開辟通路。部隊冒著敵人炮火，越過水壕；手榴彈組以排子手榴彈掩護架梯組架梯，突擊隊迅速多路爬上圍墻，突入圍內，兄弟部隊也相繼突入。在四面猛攻下，將主圍內各據點的守軍分割包圍，各個攻殲。到21日，除王光夏帶少數人逃跑外，守軍全部被殲滅。第十團俘頑軍旅參謀長以下300余人。10月26日，彭雪楓師長在戰斗總結時表揚了第十團。該團在1942年4月的杞崗戰斗、1942年7月的謝家圍子戰斗等三次攻堅戰中作戰猛勇，發揮了中堅作用，取得了較大戰果，為此，新四軍第二師授予十團“金剛鉆團”榮譽稱號。
第十團后來編入第三野戰軍第二十一軍六十一師為第一八一團。1983年7月，胡耀邦總書記視察西北時，專程來到該團，看望了全團官兵，并欣然提筆揮毫題寫了“金剛鉆”三個蒼勁有力的大字。2008年汶川大地震發生后，該團奉命開赴隴南執行抗震救災任務。經歷了長期革命戰爭烽火的磨礪錘煉，該團形成了“沒有克服不了的困難、沒有完成不了的任務、沒有戰勝不了的敵人”的“金剛鉆”精神。
獨四團組建于1940年4月，1943年2月路東分區精簡整編時分散組成天高支隊和東南支隊。1944年6月，該團恢復建制，番號為新四軍第二師兼淮南軍區路東軍分區獨立第四團。
1945年夏，日軍敗局已定。為了廣泛開展對敵攻勢，給敵人以沉重打擊，上級命令獨四團于5月31日攻克東溝鎮據點。東溝鎮位于江蘇六合縣境內，據點四面環水，四周筑有土圍墻，墻上筑堡12個，在東北、東南角和西側各筑有3層大炮樓，每個炮樓配有迫擊炮、重機槍，墻外設有3道鐵絲網，構成了較堅固的防御體系，由偽警衛第三師第九團三營固守。
獨四團決定以第一營主攻，二營、三營打援，采取偷襲與強攻相結合的戰術實施攻擊。戰斗打響后，全團指戰員越戰壕，頂著呼嘯的子彈剪斷敵人的鐵絲網，用土地雷和手榴彈炸毀敵碉堡。一連連長王國斌帶領突擊排，迅速搭人梯翻過圍墻。激戰40分鐘，敵人大部分被殲。這時敵炮樓里的機槍噴著火舌，把戰士們壓在一段殘墻的后面。二連立即組織10余名戰士抬著大木頭，在火力掩護下，將炮樓大門撞開，全殲殘部。此時，一連向東南角炮樓猛攻，迅速殲滅敵第八連。這次戰斗全殲偽軍1個營，斃傷80余人，俘400余人，繳獲82迫擊炮3門、擲彈筒9具、重機槍3挺、輕機槍27挺、步槍300余支。戰后，二師授予該團“金剛鉆團”榮譽稱號，師長羅炳輝親自將一面繡著“金剛鉆團”四個大字的錦旗授給該團。
抗戰勝利后，獨四團編入淮南獨立旅，1949年2月編入第三野戰軍第二十三軍六十八師為二零二團。1952年8月，二十三軍進行整編，二零二團改隸六十七師，改番號為第一九九團。1998年該團被撤消番號和建制，縮編為摩步營。