任主帅后首先清除了内部叛将田秀荣，然后率军出城主动袭击叛军，将叛军打得大败而逃，并缴获了大批车马牛羊。张巡把这些战利品都分给了将士，自己分毫不要，这次大捷之后，朝廷拜张巡为御史中丞，许远为待御史，姚訚为吏部郎中。
到了五月，正是麦熟时节，叛军在城外收麦以充军粮，张巡在城上看到后，集结士兵，擂鼓作出欲战的样子，叛军见状立刻停止收麦待战。这时，张巡止住擂鼓，让军士作出休息的样子，叛军见状放松了警惕，张巡抓住时机命南霁云率军大开城门突然冲出，直捣尹子琦大营，斩将拔旗。与此同时，有叛军大将率一千余骑兵直逼城下招张巡投降，张巡在城上一边与敌将答话，一边暗命勇士几十人手持钩、陌刀、强弩从城上吊下潜入无水的护城壕中，趁城外叛军依仗人多势众并不戒备时，勇士们奋勇杀出，叛军猝不及防损伤了很多人马。
到了七月，叛军再次围城，这时士兵每日才能分到一勺米，饥了只好吃树皮和纸，守军也只剩千余人，瘦弱得拉不开弓，而且外无救兵。叛军了解情况后决定强攻睢阳，他们先用云梯爬城，张巡命士兵用钩杆将云梯顶翻，随即又从城上投火焚烧云梯，这样，叛军用云梯攻城就失败了。之后，叛军作了一番整顿，又用钩车、木马攻城，但当他们靠近城墙时，又被城上投下的石块砸得七零八落。叛军见状停止攻城，又围城挖壕，壕外再加筑栅栏，以作长期围困。这时城中守军很多因饥饿而死去，留存又大多伤残疲惫不堪。这时，张巡杀其爱妾，煮熟犒赏将士，许远也系其奴僮给士兵吃，城中的麻雀老鼠及铠甲弓箭上的皮子都找来吃了，但就在这样的情况下，张巡还对接近城墙的叛军将领晓以忠义，劝其反正，而被张巡策反的李怀忠等许多人，都能死心塌地的帮助张巡守城。
御史大夫贺兰进明接替李巨任节度使，驻军临淮，许叔冀、尚衡驻军彭城，他们都持观望态度，不肯救睢阳之围。张巡命南霁云到许叔冀处求援，许叔冀不同意，只送布数千匹，南霁云在马上谩骂，要求拼死决斗，许叔冀不敢回答。张巡又派南霁云至临淮告急，率精锐骑兵三十人突围出城，叛军上万人阻挡，南霁云左右开弓，叛军都溃败下去，南霁云见到贺兰进明，贺兰进明说：“睢阳存亡之事已定，出兵又有什么用处呢？”南霁云说：“城也许尚未陷落，如已失守，我就以死向您谢罪。”
贺兰进明担忧出兵后会被许叔冀袭击，又妒忌张巡的声名威望，本就没有出兵的意思。他又喜爱南霁云这位壮士，想留下他。大设酒宴招待，音乐声起，南霁云哭着说：“昨天冲出睢阳时，将士已整月吃不到粮食了。现在您不出兵，而设宴奏乐，从大义上讲我不忍心独自享受，虽然吃了，也咽不下去。现在主将交给我的任务没完成，我请求留下一个指头已示信用，回去向中丞报告吧。”说罢就拔佩刀砍断一根手指，满座都大惊，为之流泪。南霁云最后不吃离开。抽箭回头射佛寺的宝塔，箭射进砖中，说：“我破灭叛贼回来，定要消灭贺兰进明，这支箭就是我誓言的标志！”
南霁云到了真源，李贲送马百匹；在宁陵宿营时，得到城使廉坦的三千军队，乘夜突围入城。叛军发觉，加以阻挡，南霁云边战边进，士兵大多战死，到达睢阳的才一千人。正遇大雾，张巡听到战斗的声音，说：“这是南霁云他们的声音。”便打开城门，南霁云赶着从叛军手里抢夺的几百头牛入城，将士们都执手哭泣。叛军知睢阳已无外援，围攻更急，众人议论向东转移，张巡、许远认为睢阳是江、淮屏障，如果放弃，叛军就会乘胜鼓噪南窜，江、淮必亡。而且带领饥饿士兵行军，必然到不了目的地。
十月初九，叛军攻城，将士因伤病无法作战，张巡向西叩拜说：“孤城防卫之计已穷尽，不能保全了，臣活着不能报告陛下，死也一定变成鬼来杀贼。”睢阳城