1940年5月，日軍為了控制長江交通、切斷通往重慶運輸線，集結30萬大軍發動棗宜會戰。當時中國軍隊的第33集團軍只有兩個團駐守襄河西岸。張自忠作為集團軍總司令，本來可以不必親自率領部隊出擊作戰，但他不顧部下的再三勸阻，堅持由副總司令留守，5月6日晚致書副總司令兼77軍軍長馮治安一函：

“仰之吾弟如晤：因為戰區全面戰爭之關系，及本身之責任，均須過河與敵一拼，現已決定于今晚往襄河東岸進發，到河東后，如能與38師，179師取得聯絡，即率兩部與馬師不顧一切，向北進之敵死拼。若與179師，38師取不上聯絡，即帶馬師之三個團，奔著我們最終之目標(死)往北邁進。無論作好作壞，一定求良心得到安慰，以后公私均得請我弟負責。由現在起，以后或暫別，永離，不得而知，專此布達。”他自己親自率領2000多人渡河作戰。

張自忠率2000多人東渡襄河后，一路奮勇進攻，將日軍第13師攔腰斬斷。日軍隨后以優勢兵力對張自忠所部實施包圍夾攻。張自忠毫不畏縮，指揮部隊向人數比他們多出一倍半的敵人沖殺10多次。日軍傷亡慘重。1940年5月7日拂曉，張自忠東渡襄河，率部北進。在日軍集結重兵南下時，我方主力本應暫時規避，尋機集中力量分別圍殲來犯之敵。但是，蔣介石被日方的假情報迷惑，錯誤判斷形勢，下令第五戰區部隊同時圍殲南北兩路日軍。雖然張自忠在河東的部隊只有五個師二萬余人，兵力僅及對方一半，但軍人以服從命令為天職，他立即根據自身情況調整部署。然而不幸的是，張自忠的電報密碼被日軍截獲破譯，他的軍事部署已完全被敵方掌握。日軍當即調集兩個師團另加四個大隊奔襲而來。

1940年5月14日，雙方發生遭遇戰。15日，張自忠率領的1500余人被近6000名日寇包圍在南瓜店以北的溝沿里村。當日上午，日軍發動進攻。敵我力量極其懸殊，戰斗異常慘烈。至下午三時，張自忠身邊士兵已大部陣亡，他本人也被炮彈炸傷右腿。此時，他已撤至杏仁山，與剩下的十幾名衛士奮勇抵抗，竟將蜂擁而至的日軍阻于山下達兩個多小時。激戰到16日佛曉，張自忠部被迫退入南瓜店十里長山。日軍在飛機大炮的掩護下，向中國軍隊的陣地發起猛攻。一晝夜發動9次沖鋒。張自忠所部傷亡人員急劇上升，戰況空前激烈。

1940年5月16日一天之內，張自忠自晨至午，一直疾呼督戰，午時他左臂中彈仍堅持指揮作戰。到下午2時，張自忠手下只剩下數百官兵，他將自己的衛隊悉數調去前方增援，身邊只剩下高級參謀張敬和副官馬孝堂等8人。不久，大群日兵已沖到面前。根據日方資料，日軍第四隊一等兵藤岡是第一個沖到近前的。突然，從血泊中站起來一個身材高大的軍官，他那威嚴的目光竟然使藤岡立即止步，驚愕地愣在那里。沖在后面的第三中隊長堂野隨即開槍，子彈打中了那軍官的頭部，但他仍然沒有倒下！清醒過來的藤岡端起刺刀，拚盡全身力氣猛然刺去，那軍官的高大身軀終于轟然倒地。這時是1940年5月16日下午4時。

張自忠戰死后，日本人發現張將軍遺體，審認無訛，一起膜拜，用上好木盛殮，并豎木牌。并全軍向他行禮，甚至在他的遺體運回后方之時，日軍收到消息便下令停止空軍的空襲一日，避免傷到張自忠的忠骸。可見，張自忠將軍在對日抗戰所展現軍人武德，連當時崇尚軍國主義的日軍都為之感動。當天深夜，日軍設在漢口的廣播電臺中斷正常廣播，插播了張自忠陣亡的消息，并稱：“我皇軍第三十九師團官兵在荒涼的戰場上，對壯烈戰死的絕代勇將，奉上了最虔誠的崇敬的默禱，并將遺骸莊重收殮入棺，擬用專機運送漢口。”

日軍對張自忠將軍表現了極大的崇敬，由軍醫用酒精仔細清洗遺體，并包扎好傷口，鄭重裝殮，放進趕制的棺材里。此棺被葬于一處山坡上，并立墓碑，上書：“支那大將張自忠之墓”。張自忠將軍殉國后，遺體當晚被日軍13師團盛殮后葬于陳家集(湖北省襄陽縣屬)。18日，我軍黃維綱部將敵擊潰，覓獲葬處后，連夜將張自忠將軍遺體運回荊門縣襄河西岸快活鋪三十三集團軍總部，在總部各界軍民祭悼后，由手槍隊將靈柩護送至宜昌，由馮玉祥將軍商請盧作孚派“民風號”專輪，將靈柩運往陪都重慶。

18日上午，忠骸運抵快活鋪，三十三集團軍將士痛哭相迎。馮治安將軍和兩名蘇聯顧問含淚查看了張將軍傷勢，發現全身共傷8處：除右肩、右腿的炮彈傷和腹部的刺刀傷外，左臂、左肋骨、右胸、右腹、右額各中一彈，顱腦塌陷變形，面目難以辨認，唯右腮的那顆黑痣仍清晰可見。馮將軍命前方醫療隊將遺體重新擦洗，作藥物處理，給張將軍著馬褲呢軍服，佩上將領章，穿高筒馬靴，殮人楠木棺材;然后率眾舉行了莊重的祭奠儀式。

張自忠殉國后，國民政府為避免影響全國抗戰士氣，未立即公開發表消息，直到同年“七七”抗戰三周年紀念日，才將此公諸報端。