安史之乱爆发的时候，张巡正担任真源（今安徽毫州西）令。谁也没有想到，就是这位身高七尺、须髯一怒尽张的男子，在内无粮草、外无援兵的情况下，以其英雄的胆略和闪耀着光辉的智谋，坚守孤城睢阳达两年之久，大小战斗400余次，杀敌12万人，创造了中外战争史上罕见的以弱胜强、以少胜多的战例。后世民族英雄文天祥在其大气磅礴的《正气歌》中，热情地讴歌了十二位英雄惊天地、泣鬼神的事迹，张巡便是其中之一。
张巡，邓州南阳（今属河南）人。自幼便聪悟有才干。他不但博览群书，通晓阵法，而且才华出众，记忆力惊人，读书不过三遍，便终生不忘，写文章不用打草稿，落笔成章。张巡守睢阳时，士兵有万人，城中居民百姓却有数万人。张巡每见一人，便询问其姓名，一遍过后，满城没有他不认识的人，遇人便能直接叫出名字，满城军民无不为此惊讶而感动。张巡为人气志高迈，喜欢与有学识的长者交流，不屑与庸俗之辈为伍，以至“时人叵知也”。玄宗开元末年，张巡进士及第，初仕为太子通事舍人。当时其兄张晓任监察御史，兄弟二人“皆以名称重一时”（《新唐书·卷一百九十二·张巡传》）。
天宝中，张巡调授清河（今河北清河西北）令。他为人倾财好施，扶危济困。在任期间，由于公正廉明，体恤民情，不仅政绩出众，且深受百姓爱戴。当时，杨国忠执掌朝政，权倾朝野，有人劝张巡去走杨国忠的门路，为自己找个好出路。但被张巡严辞拒绝，说：“是方为国怪祥，朝宦不可为也。”（《新唐书·卷一百九十二·张巡传》）
不久，张巡调任真源（今河南鹿邑）令。真源地处中原，多豪强地主。他们与官府相互勾结，鱼肉百姓。其中以华南金最为横暴，当地人称“南金口，明府手。”张巡到任后，果断地将华南金依法处决，然后赦免其党羽，威恩并施，从此人人向善，莫敢违法。张巡为政简约，以使百姓安居乐业。
天宝十四年（755年）十一月，安史之乱爆发。玄宗从声色迷梦中惊醒，仓促布置抵抗时，叛军的铁蹄已踏过河北诸郡，气势汹汹地直奔河南杀来。并快速南下，预备夺取江淮富庶之地，进而取洛阳，进逼长安。由于大唐承平日久，百姓累世未经兵戈，加之朝廷重文轻武，武备松驰，很多郡县无兵可用，毫无应变准备。地方官吏被叛军的嚣张气焰吓得手足无措，闻叛军将至，或弃城逃跑，或开门出迎。叛军长驱南下，几乎没有遇到任何抵抗，轻而易举地占领了黄河以北大部分地区。十二月十二日，安禄山率众从灵昌渡过黄河，接连攻陷陈留、荥阳，大败封常清部于武牢（即虎牢关）、葵园，进占洛阳。东都沦陷，天下震动。
安禄山攻陷洛阳后，以叛将张通晤为睢阳太守，与陈留长史杨朝宗率精骑数千，向东进军，唐郡县官吏大多数望风逃走或者干脆投降，因而叛军气焰极为嚣张。但叛军进至山东时，遭到东平太守吴王李祗与济南太守李随的抵抗。有人带头后，山东其他各地官民纷纷举兵响应，起兵抗贼。
当张通晤往东南掠地时，谯郡（今安徽亳县）太守杨万石见叛军势大，打算献郡降敌。杨万石为张巡的顶头上司，他一向看重张巡的才干，便委派张巡为代表，到西边迎接叛军。当时，杨万石手下剑拔弩张、虎视眈眈，四周刀光剑影，所以张巡当场没有表示反对，而是痛快地答应了下来。
然而，事情却突然有了变化。天宝十五年（756年）二月，单父（今山东单县）县尉贾贲率吏民攻克了睢阳，斩杀了叛将张通晤。
当时，雍丘（今河南杞县）令令狐潮想以城投降叛军。为了增大自己的政治资本，令狐潮主动率军出击，击败了淮阳方面赶来的唐军援兵，并俘获百余人。令狐潮将唐军俘虏押回雍丘，准备处死。刚好这时候令狐潮出城办事，唐淮阳士兵乘机挣脱绳索，杀死看守，闭城拒纳令狐潮。令狐潮无奈，只得丢下妻儿逃走。随后，唐淮阳士兵迎贾贲入城。
西迎叛军的张巡行至真源后，大哭于真源玄元皇帝庙（唐高宗乾封元年，高宗过真源，诣老君庙，追尊为玄元皇帝。事见唐人封演所著《封氏闻见记·卷一·道教》），宣布起兵讨叛。群情激昂，吏民中愿意相随者达数千人。张巡从中选取出精兵1000人，西去雍丘，与贾贲会合。贾贲、张巡兵合一处，入雍丘后，首先杀令狐潮妻儿，相约共同守城。东平太守吴王李祗闻讯后，即授贾贲为监察御史。
令狐潮为报杀妻儿之仇，率叛军精兵15000人攻打雍丘。当时守城的唐军总共也不过3000人，兵力对比悬殊，但雍丘将士同仇敌忾，奋勇抗击。贾贲率军主动出击，不幸战败而死。张巡率众继续力战，击退叛军。面对唐军的顽强抵抗，令狐潮无计可施，不得已带着残兵败将恨恨而去。
张巡因作战勇敢，赢得了军民的信任，被奉为主帅。张巡率军民继续守城，在一个月的时间里击败了叛军的多次进攻，使其伤亡过半。东平太守吴王李祗得知战况后，将兖州以东的战事委任给张巡。从此，张巡自称吴王先锋使，担负起保卫雍丘的重任。
此时，与先前叛军一路势如破竹的情形不同，局势已经发生极大的变化。洛阳失守后，唐朝廷迅速调集和组织兵力，在洛阳南、北两个方向抗击叛军，以保卫京师长安，阻止叛军西进。而在安军后方河北，有常山太守颜杲卿、平原太守颜真卿、东平太守吴王李祗、济南太守李随、饶阳太守卢全诚等，皆以兵讨安禄山，阻击和牵制了安军。此时，唐军逐渐形成了两大战场：一是阻止安军西进的作战；二是阻止安军南下江淮的作战。江淮地区为大唐的财赋供应之地，一旦被叛军攻占，后果将不堪设想。而雍丘则是从洛阳通往江淮地区的要道，战略意义不可估量。
张巡虽然官职不高，但却能清醒地看到坚守雍丘的重要意义。所以，他知道尽管令狐潮初次攻打雍丘失败，但叛军绝不会就此甘休，一场大仗已经是迫在眉睫。为此，他做好了充分的心理准备。
果然，距第一次攻城不过10日，令狐潮与叛将李怀仙、杨朝宗、谢元同等率兵4万余人争夺雍丘。叛军来势汹汹，人多势众，而城中守军不足两千人。面对强敌，城中军民大为惊惧，皆无守城的信心。张巡分析说：“贼兵精锐，有轻我心。今出其不意击之，彼必惊溃。贼势小折，然后城可守也。”（《资治通鉴·卷二百一十七》）诸将听后皆表示同意。张巡立即分派千人登城防守，自率千人，分成数队，突然打开城门直冲叛军阵营。此时叛军刚到，人数虽众，还立足未稳，加上事出突然，遂惊骇后撤。
第二天，叛军再次攻城，环城安置百门石砲轰击，城楼及城上女墙全部被毁坏。张巡派人在城上设立木栅，挡住了叛军石砲的进攻。叛军只好采取强攻，沿城墙攀登而上。张巡用蒿草束灌上油脂，点燃后从城墙上投下。叛军被烧得焦头烂额，无法登城。强攻不行，叛军便采取了围困的策略。张巡足智多谋，并没有一味采取死守。有时他观察到叛军松懈，便出兵突然袭击；有时夜深人静，叛军睡意正浓之时，趁机偷袭敌营。这样坚守60多天，经大小300余战，带甲而食，裹伤再战，终于将叛军击退，并乘势追击，歼灭敌兵两千余人，差点活捉令狐潮。
令狐潮败逃后，回望茫茫黑幔中的雍丘，恨恨地说道：“我若不取下此城，尽屠城中之众，誓不为人！”
至德元年（756年）五月，令狐潮再次领兵围攻雍丘。叛军轮番猛攻，双方相持了40多天。此时，长安已经失守，玄宗逃往蜀地。由于雍丘长期被围困，早已经与外界失去了联系，张巡并不知道这些情况。令狐潮以为有机可乘，他与张巡过去相识，于是亲至城下，想劝张巡投降。令狐潮说：“本朝危蹙，兵不能出关，天下事去矣。足下以羸兵守危堞，忠无所立，盍相从以苟富贵乎？”大意是说：唐王朝已亡，你还坚守危城，不知是为谁。张巡回答道：“古者父死于君，义不报。子乃衔妻孥怨，假力于贼以相图，吾见君头干通衢，为百世笑，奈何？”（《新唐书·卷一百九十二·张巡传》）讽刺令狐潮以往常以忠义自许，现在却投靠了安禄山。令狐潮听后深感惭愧，竟然因此而退兵。
但张巡手下有6名将官认为天子都已经出逃，形势不妙，心动欲降，劝张巡说：“敌强我弱，众寡过于悬殊，实在难以取胜，再说天子存亡不知，不如早降。”张巡表面上装作答应。第二天，张巡把玄宗画像挂在堂上，率将士朝拜行礼，一时间人人皆哭。然后张巡引六将官于堂前，责以大义，斩之，坚定了众人守城的决心。
当时雍丘粮食所剩无几，城中开始缺粮，张巡打探到叛军有数百艘装运盐米的船只即将运往前线，便亲自率兵夜出城南。令狐潮闻讯立即领兵前来迎战。而张巡其实是采取声东击西之计，正希望令狐潮如此，他另派勇士到河边夺取了叛军的粮饷。
《三国演义》中有诸葛亮“草船借箭”的故事，但那不过是小说。而在张巡手中，上演了一场真正的“草人借箭”的精彩好戏。由于叛军不断攻城，雍丘城中的箭矢用完了。张巡仔细思虑后，命士卒做了1000多个草人，给草人穿上黑衣，半夜的时候，将草人吊在绳子上放下城去。叛军发现城墙下人影绰绰，以为是前来偷袭的唐军，顿时箭如飞雨。一直到天亮，叛军才发现是草人，此时唐军已得箭数10万支。
几天之后，张巡选了500名勇士，在夜色中悄悄缒下城去。叛军发现后，以为这次仍是草人，都大笑不止，没有任何防备。500勇土乘机冲杀令狐潮军营，叛军措手不及，顿时大乱，焚垒幕而逃。唐军一直追击10余里而还。
令狐潮接连中计，恼羞成怒，继续增加兵力围城，发誓要攻下雍丘，一雪前耻。当时唐军郎将雷万春站在城头，与令狐潮对话，叛军趁机用弩机射雷万春。雷万春脸上被射中6处，切依然巍立不动。城下的令狐潮见此，怀疑雷万春是木头人。经侦察得知确实是雷万春，令狐潮十分惊异，在城下仰头对张巡说：“见你们的雷将军如此，才知你的军令严厉，然而这样残酷，实在不符合天道！”张巡回答说：“你叛君附贼，不识君臣人伦，那里还知天道！”
雍丘被围日久，城中的薪柴全部用完，张巡便对令狐潮说：“欲引众走，请退军二舍，使我逸。”（《新唐书·卷一百九十二·张巡传》）令狐潮一心想攻下雍丘，不知是计，果然引兵后撤。张巡立即率领全部军民，分四面出城，拆屋取木，运回城中。
令狐潮得知真相后大怒，重新带军围城，并指责张巡言而无信。张巡表示为难，对令狐潮说：“君须此城，归马三十匹，我得马且出奔，请君取城以藉口。”（《新唐书·卷一百九十二·张巡传》）令狐潮便送来战马30匹。张巡将马分给部下骁将，并要求他们说：“贼至，人取一将。”
第二天，令狐潮责问张巡为何还不出城投降，张巡说：“吾欲去，将士不从，奈何？”令狐潮这才知道又中了张巡之计，大怒之下，便开始列阵攻城。阵还没有布好，张巡事先安排的30名骁将突然从城中杀出。叛军大溃而逃，收兵入保陈留，再不敢出来交战。
张巡总是能临机应敌，出奇制胜。在敌众我寡的形势下，始终能够以忠义激励将士，率千人之众，抗击数万叛军的进攻，坚守孤城雍丘4个月，取得了每战皆捷的惊人战绩。自此，张巡名扬天下，四周军民争相前来投奔，雍丘的实力得以补充。
八月，安禄山任命的河南节度使李庭望，亲率大军2万进攻雍丘。叛军距城东30里安营。张巡趁叛军扎营未稳，率精兵3000出击。叛军大乱，被斩杀大半。李庭望收军后连夜逃走。
十月初四，令狐潮与王福德又率领步、骑兵万余人进攻雍丘。张巡领兵出击，再次大败叛军，斩杀数千人，叛军败逃而去。
十二月，令狐潮率兵万余人扎营于雍丘城北。张巡领兵出击，又大败叛军，叛军逃走。
令狐潮、李廷望先后率叛军数万围攻雍丘，不仅数月未能攻下，反而连续吃了败仗，于是不敢再直接进攻雍丘，但却在雍丘四周开始了一系列坚壁清野的行动，以断绝雍丘的粮草援助，让雍丘不攻自破。十二月，叛军在雍丘以北筑城，设置杞州。又遣兵攻陷鲁郡（今山东兖州）、东平（今山东东平西北）、济阴（今山东定陶西南）。叛将杨朝宗率兵2万，准备袭取宁陵（今河南宁陵东南），以切断张巡后路。
在这种情况下，雍丘已经陷入绝境，决计守不住了。张巡审时度势，主动放弃雍丘，率马300匹、兵3000人转守宁陵，与睢阳太守许远、城父令姚訚等合兵。
当天，叛将杨朝宗率兵进至宁陵城西北后，张巡、许远派部将雷万春、南霁云领兵迎战。经过一昼夜的激烈厮杀，杨朝宗部大败，损兵折将万余人，死尸塞满汴水，顺流而下。杨朝宗收集残部，连夜逃去。
此时，身在灵武的肃宗也听到了张巡的大名以及辉煌战绩，下敕书任命张巡为河南节度副使，指挥江淮方面的作战。张巡认为部下将士有功，派遣使者向虢王李巨请求给予空名的委任状以及赏赐物品，而虢王李巨只给了折冲都尉与果毅都尉的委任状30通，没有给予赏赐的物品。为此，张巡写信责备李巨说：“宗社尚危，围陵孤外，渠可吝赏与赀？”（《新唐书·卷一百九十二·张巡传》）李巨不听。
此时，大唐整个平叛的形势经过几起几落，始终不够明朗。至德二年（757年）正月初六，安禄山被杀，形势似乎向有利于唐的方向发展。可笑的是，杀死安禄山的人，不是唐朝派去的武功高强的刺客，也不是战场上的某位英雄，却是安禄山的亲生儿子安庆绪。安庆绪杀父后，自己在洛阳称帝。唐军未能抓住这次叛军内讧的良机一举消除叛乱，反而让叛军史思明部重新夺回河北诸郡。史思明随后进围孤城太原，预备夺取河东，进而长驱直取