在潮阳击溃文天祥的同督府军后，宋祥兴元年（1278）六月，忽必烈允准张弘范的建言，任命他为蒙古、汉军都元帅，以李恒为副，领大军进剿南宋的海上行朝。
此时，南宋流亡小朝廷正移驻厓山。
出征前，忽必烈要赐与锦衣玉带，张弘范恳以辞谢，而请求赐与合用的佩剑与盔甲。忽必烈命取出武库中最好的剑与甲任他选用。知道他担心自己是汉人，当统帅恐元将不服，特意交代说：“剑，汝之副也，不用令者，以此处之。”是为尚方宝剑。十月，张弘范率舟师袭击漳、潮、惠三州，李恒的步、骑袭击广州。张弘范以其弟张弘正为先锋，所到临海州县皆望风降附。外围扫清，张弘范即剑指厓山，并命李恒自广州来合攻。
厓山位于广东新会县以南数十里，是海湾间一个三面环江、南向临海的洲岛。笔者曾驻足与厓山隔江相望的岸边，此江流叫银洲湖，银洲湖入海口，厓山与汤瓶山（今古兜山）隔岸对峙，从外海望去，“两山相对延袤，中一衣带水，山口如门”。两道山脉夹护着开阔的水港，张世杰视作易守难攻的水上城郭，“以为此天险可扼以自固，始不复事转徙矣”。他派人进山伐木凿石，在厓山方圆几十里的弹丸之地上建起了三十间行宫、三千间军舍。
祥兴二年（1279）元月初六，张弘范率水师从潮阳发兵。文天祥也被囚押在海船上随往。
关系到国家生死存亡的大决战在即，一场情感风暴已先自文天祥的内心爆发。十二日，船队过珠江口外的零丁洋，望着苍茫大海，文天祥难抑内心的起伏激荡，在舱内写下了《过零丁洋》一诗。
十三日兵抵厓山。从厓门口向银洲湖望去，只见宋军战阵桅樯如林，旌帆蔽日，俨然一座森严壁垒的舟城。
文天祥暗自对两军实力作了估量。“行朝有船千余艘，内大船极多。张元帅大小船五百，而二百舟失道，久而不至。北人乍登舟，呕晕，执弓矢不能支持，又水道生疏，舟工进退失据。”
宋军有巨舰千余艘，将士和民兵二十余万。元军大小船只五百，一部分还未到，将士只数万，且晕船，水道不熟。论实力尚可说宋军占优势，两军决战，尚有胜算。文天祥又心生一战翻覆的期望，说：“使虏初至，行朝乘其未集击之，蔑不胜矣。”并且说：“北船皆闽、浙水手，其心莫不欲南向。若南船摧锋直前，闽、浙水手在北舟中必为变，则有尽歼之理。”
两军对决亦是两帅对决。说起来，两军统帅是燕赵同乡，张世杰曾在张弘范的父亲张柔手下当兵，在镇守杞县时犯了法，逃到南宋淮军中当兵，因屡立战功成长为高级将领；张弘范自小在父兄师友的熏陶下，雄武善射，饱读兵书，在战争中成长为文武双全的军事家。他俩都曾参加襄、樊攻防战，张世杰曾驰援有功；张弘范则向伯颜献计，在襄阳、樊城之间构筑了一个阻隔性工事“一字城”，把原是一个整体的襄、樊切割成两半，并领兵攻下了樊城。他俩也都曾参加焦山大战，张世杰统帅宋师因战法错误落得惨败；张弘范自上游回枪会攻焦山之北，率军追击南宋溃军直到圃山（今江苏镇江市东北）以东。
张世杰并没有像文天祥期望的那样，制定摧锋直前的攻势或攻防机动的战法，他不具备那样的胆识。这从他的军事布防便可看出。此次布防厓门，殿前禁军都指挥使江钲主张分兵防守出海口，认为“幸而胜，国之福也；不胜，犹可西走”，张世杰则害怕兵力分散，控制不住，坚持将大船用铁链环结列阵的方案。在激烈的争吵中，江钲要张世杰不要再重蹈焦山之战的悲剧。这深深刺痛了张世杰，德祐元年（1275）七月的焦山大战，张世杰曾用铁索把战船十艘连为一方，导致万余艘战船遭火攻落得惨败。张世杰愤而借杨太后之名把江钲支往福建募兵筹饷，命苏刘义接替殿前司。他仍祭出他的保守战阵。咸淳十年（1274）九月，他在郢州就曾将千余艘战船列于汉水江面，用铁索环结大船数十艘，堵住了元军的水路。这次他也吸取了焦山的教训，在战船外体涂上了厚厚一层胶泥以防火箭和炮弩，并在舱壁上悬挂了众多水桶，可随时用它扑灭攻上船的火势。
宋军的千余艘巨舰用粗缆环结横列银洲湖上，还间或建起宛似城堞的楼棚。大敌进逼，张世杰下令一把火烧尽在厓山修建的宫殿和军舍，决意死战。
这样一来，两军作战的机动性和主动权无疑就交到了张弘范的手上。看清这一点的文天祥不无担忧：“行朝依山作一字阵，绑缚不可复动，于是不可以攻人，而专受攻矣。”
面对张世杰构筑起的舟城，张弘范一面调遣兵船，以长蛇阵对付一字阵；一面派轻骑登上厓山西山，杀灭守军，断绝宋军砍柴和汲取淡水的路径。同时，对张世杰展开诱降攻势，以求不战而屈人之兵，也可等待后继部队和作战时机。
被派往诱降的人姓韩，是张世杰的外甥，为加重此人的分量，出发前，张弘范把他从一个下级军官越级提拔为万户。此人登上宋军帅船，向张世杰说明来意后，张世杰怒目坚拒，斥道：“吾知降，生且富贵，但为主死不移耳！”还列举历代忠臣以死节报国的事迹自况。
张弘范耳边整日聒噪着求战的声音。有人主张先用炮火轰击，张弘范意在全歼，说：“火起则舟散，不如战也。”但他也想先用火攻做个试探。
正月十四，海上南风大作，几十条满载柴草、油脂的乌蜑小舟渐渐向宋舰靠近，当相距几十米时，这些小舟突然纵起大火，发力向宋舰冲去。
宋军却不见动静。见此，充当前锋的张弘正迫不及待地率船队大举跟进。但撞上宋舰的火舟不是被泥层隔离，就是被长木棍抵开，并没能燃及对方。正角力间，宋舰上突然锣鼓声大作，宋兵一下子冒了出来，齐齐地站在船沿猛发箭矢，元兵在箭雨中多有中创，有的倒毙甲板，有的跌入海中。载火小舟顿时阵脚大乱，像没头的苍蝇四处乱窜，有的窜回自家阵营，燃及了自家船只。
张弘正惊骇失措，大喊大叫着指挥撤退。此时一船不退，仍固执地冲向宋舰。只见一员蒙古大将立于船头，抡舞一柄大刀狂嘶猛吼，模样煞是吓人。岂料尚未抵近宋军，就被潜在冰冷水下的渔民凿穿舱底，蒙古大将不谙水性，一头栽入海中溺毙。他那柄重约八十斤的大刀后来被人捞起，现存于新会博物馆。
首战击退蒙军进攻，宋军士气大振，摇旗呐喊，饮酒庆贺。
火攻果然难以奏效，张弘范想再试试诱降。张世杰的外甥不成事，正月十五，他派“李元帅”到文天祥船上，想让李元帅给张世杰写招降信。
文天祥闻之沉想片刻，转身回舱内手书一札，交给来人。临了说：“我自救父母不得，乃教人背父母，可乎？”“李元帅”不解，心想你既然写了劝降信，又何出此言？
等信札交到张弘范手里，展开一看，才知这不是什么劝降信，而是一首言志诗。
辛苦遭逢起一经，干戈寥落四周星。
山河破碎风飘絮，身世浮沉雨打萍。
惶恐滩头说惶恐，零丁洋里叹零丁。
人生自古谁无死，留取丹心照汗青。
此诗就是十二日过零丁洋时，文天祥写下的伟大诗篇《过零丁洋》。
在诗中，文天祥感慨自己自始信奉儒家典籍经义，入仕后命运坎坷，吃尽苦头，四年前奉诏起兵勤王，在赣江凶险的惶恐滩头忧心国难，而今折戟沉沙义军败散，山河破碎家破人亡，自己孤零零地被押在茫茫大海上徒叹奈何。然而此生无悔，如今只求一死报国，以慷慨赴难的英雄死，留取一颗丹心彪炳恒如日月的民族精神。
这是一首泣血成珠的撼人心魄之作，一首忠骨铸魂的黄钟大吕之作。钱钟书评价说，如果说文天祥早期的诗作全属草率平庸，那么“自《指南录》以后，与初集格力相去殊远，志益愤而气益壮，诗不琢而日工”。《过零丁洋》堪称文天祥这一时期的代表之作，也无愧为宋末诗坛的登峰之作。
读罢诗，张弘范稍事沉吟，连声赞叹道：“好人！好诗！”
张弘范的钦服是由衷的。张弘范也写诗，写后随手散落，后来有人为他搜罗遗作，编成《淮阳集》刻印传世，邓光荐写序文，说他的诗风好似“据鞍纵横，横槊酾酒，叱咤风生，豪快天纵……存之穹壤，要是古今一奇”。可见张弘范的诗品不低。
张弘范当然也懂得抄给他这首诗的潜台词，便不再提招降的事。
劝降再无指望，如今只有大动干戈，一决雌雄。
血腥气越来越浓烈了。文天祥望着宋军的舟城，望着咫尺外那些待战的宋军将士，深为他们在即将到来的大杀伐中的命运焦心。
他想到秦坑赵卒四十万、楚屠汉兵十万的惨烈情景。又想到孟子“不嗜杀人者能一之”的话，想到逆天者即使战胜，也不得长久，嗜杀者终将遭到上天报应。
长平一坑四十万，秦人欢欣赵人怨。
大风扬沙水不流，为楚者乐为汉愁。
兵家胜负常不一，纷纷干戈何时毕。
必有天吏将明威，不嗜杀人能一之。
二十二日，李恒从广州引兵赶到。张弘范命他从厓山北面的水道绕到银洲湖，绕到宋军身后。这样一来，就把宋军的一字舟城夹在了中间。
李恒此时才赶到，那前几日去文天祥船上索写招降书的“李元帅”是谁？史家至今众说不一，存疑待考。笔者以为此“李元帅”或跟张世杰的韩姓外甥一样，是为了完成特殊使命给的一个虚衔。
完成夹围后，张弘范命令向厓山士民发起一波波喊话，说你们的陈丞相已经逃跑了，文丞相也被俘了，你们就赶紧投降吧，否则只有死路一条。这些天，断了淡水水源，宋军士民啃了干粮，只得靠喝海水解渴，致脸部浮肿，上吐下泻，处境十分艰难。
但宋军士民挟首战威勇，斗志仍高，有些将领还在夜间率小舟袭扰元军，小有斩获。
围困宋军二十多天后，部队得到休整，并摸清了水道，后继兵力也越聚越多。张弘范认为决战时机已到。