《水滸傳》中，自打晁蓋智取生辰綱后，濟州府就沒有一天消停過，太守像走馬燈一樣換了好幾個，直到張叔夜當上了太守。張叔夜上任后采取保境安民的方針。由于他為官清廉，攻守兼備，所以梁山倒也沒有進犯濟州府“借糧”。而且張叔夜深知梁山的厲害，“此寇潛伏水泊，雖然是山林狂寇，中間多有智謀勇烈之士，”并未與之發生正面沖突。張叔夜對梁山好漢的態度則是力主招安，并不希望刀兵相向，然而官微言輕，只能眼睜睜看著童貫、高俅帶著兵馬“送人頭”。在初次招安、屢次圍剿梁山不成后，朝廷終于派來了張叔夜認為能使梁山義士建功立業之人宿景：“朝廷頒詔敕來招安，已是二次。蓋因不得其人，誤了國家大事。今者太尉此行，必與國家立大功也。”受招安后，宋江為表示感謝以金銀相送張叔夜，張叔夜婉謝，可見其廉以律己。張叔夜在《水滸傳》中著墨不多，但是一個有才干又有眼光的清官形象已經躍然紙上。

歷史上的張叔夜到底是否像水滸中說的那樣，是當時官員中的一股清流呢？答案是肯定的，而且《水滸傳》畢竟是小說，為了突出梁山好漢的強盛實力，便將張叔夜的能力大打折扣。真相則是張叔夜打敗了以宋江為首的梁山起義軍，迫使其接受招安；而且他還是一位抗金名將，靖康之難中不幸戰敗被俘，不甘受辱，自縊而死。

張叔夜文武雙全，作為武將能夠衛戍邊疆，抵御外侮，也能夠剿滅賊寇，穩定內局。在蘭州戍邊時，為使宋朝永不受羌人之患，率兵渡河建西安州，扼守西北邊境。張叔夜出使遼國時，與契丹人比射箭，居然首先命中目標，使契丹人十分驚詫。出使回朝后，張叔夜畫出了遼國的山川、城池地圖，講述了其服飾、禮儀等。與我們所認識的截然相反的是，以宋江為首的梁山好漢并沒有小說中說的那么戰無不勝，反而是張叔夜的手下敗將。宋江等三十六人在梁山起義之時，張叔夜為海州知州。宣和元年（公元1119年），宋江起義于河朔，活動范圍波及數十個城郭，聲勢浩大，打得官軍不敢與之正面交鋒。后來，宋江等人不自量力，攻打海州城。張叔夜率近千名死士伏擊宋江起義軍，燒其船隊，并俘虜多人，宋江大敗而降，接受招安。也有的說，宋江等人后來被張叔夜斬殺。作為文臣，張叔夜力主改革時弊，不惜得罪當時權貴。張叔夜與他的弟弟張克公曾彈劾蔡京，使得蔡京被迫下臺。在中書舍人任上時，為了整治當時官員懶惰之風，改革了“預先簽署職銜與姓名，遇事才填寫具體內容”的弊端。

張叔夜更應該讓人銘記的是他的抗金事跡。張叔夜所處的時期正是北宋兩位亡國之君的統治時期，而當時的金國則愈發強大，不時北下騷擾中原。靖康元年，金軍大舉南下，宋軍不敵，接連潰敗。張叔夜迂回包抄金軍的建議未能被宋欽宗采納，喪失了破敵良機。直到宋軍兵臨開封城下，宋欽宗才急調張叔夜率軍勤王。金軍攻勢不斷加強，宋軍無法南撤，只能死守等待援軍。其間，張叔夜率軍力戰，雖然力挫金軍銳氣，得到欽宗嘉獎。只是欽宗實在太昏庸，用人不查，任何樐、孫傅為相。這二人受人迷惑，致使金兵進入城中，京城陷落。徽欽二宗都成為了金軍的俘虜。

后來張叔夜一直在作頑強的抗爭，終因寡不敵眾戰敗被俘。面對金軍統帥的威逼利誘，張叔夜大義凜然，不為所動。在被押往金國的途中，經過的地方滿目瘡痍，都是慘敗之狀。張叔夜感到家國之恨難雪，絕食抗議，第二天自縊而死，時年六十三歲。公元1138年，宋金議和，張叔夜的遺骸才回到故土。張叔夜不僅像水滸中所寫的那樣勤政愛民，廉潔自律，更值得稱頌的是他的民族氣節。