水战与陆战有很大差别，水军士兵不熟悉水性当然无法执行战斗任务了。所以说水军训练应从士兵与水的关系开始，让士兵熟悉水性，从而征服水，进而达到能在水中作战的目的。
李纲认为水军训练应“招集水军水夫，常切教阅，令士卒习于风涛之险”。由于北方人一般不习水性，为避免在训练中浪费时间，宋代水军经常招募习水的南方民众入伍，减少不必要的重复训练，北宋末年蔡肇写道：“渠侬幸自惯水战，驾水楼船救江表。”南宋王十朋也说：“尔曹生长行伍间，操舟习水便宜闲。异日捐躯宜报国，勿效水鸟为盗贼。”
掌握水性这一基本技能之后，接下来就是作战能力了。宋代处于冷热兵器初期，水军作战武器虽然包括部分火器，但是以冷兵器为主。当时水战作战与陆战相似，远战依靠弓弩等远距离攻击武器，近战主要是刀、枪等短兵器。
黄天荡大战中，金将高彪与宋军战船相逼，“彪度垂及，以钩拽之，率勇士数十，跃入敌舟，所杀甚众，余皆逼死于水中。”这与绍兴二年（1132）范寅提出剿灭杨么的战法相类似，“其胜贼之具，弓矢为上，钩枪次之，手刀又次之，又择十人牌砲手，使居前列，牌以卫我师，砲以击贼……使令乘载人兵，习其击刺，使战士习熟波涛，若履平地，何贼不胜乎？”说明水战远距离依靠弓弩攻击，盾牌防卫，用钩枪拉近船距，然后进行近身格斗。
包恢为福建提刑时谈到水军使用武器，“……欲略备军器，则舟师水战弓弩为先，须先多备，次则枪杈刀剑等亦须色色精利。此乃官兵将佐常用之器，自当多多益办，不容少有欠缺。”冯湛将俘获海盗编入水军，也是“教以击刺弓矢之技”。《宝庆四明志》记载定海水军中编制：
引战教头二十二人，旗头一百三十二人，牌手一百七十一人，刀手七百七十一人，枪手四百六十八人，弓箭手五百五十六人，弩手八百六十人，角匠二十二人，金手二十三人，鼓手六十一人，准备带甲旗头四十四人，梢矴旗头二十二人，队司二十二人，梢工六十六人，矴手三百三十人，押火二十二人。
其中除去梢工、矴手、押火等非战斗人员，水军士兵使用武器不外乎刀、枪、牌、弓弩等。
南宋降将刘整训练元军水战，“造船五千艘，日练水军，虽雨不能出，亦画地为船而习之”。这里说水军“画地为船”，估计也是进行格斗训练，否则如何能够用这种方式训练水军。
再者从当时船构造既可以看出当时水战主要使用的武器，如“艨艟者，以生牛革蒙战船背，左右开掣棹空，矢石不能败。前后左右有弩窗、矛穴，敌近则施放。此不用大船，务在捷速，乘人之不备。”这里士兵需要的依旧是弓弩和矛，不同的是必须熟悉在船上使用上述武器。“走舸者，船舷上立女墙，棹夫多，战卒皆选勇力精锐者充。往返如飞鸥，乘人之所不及。金鼓旌旗在上。”这则是进行贴身战斗的士兵，使用短兵器。
既然武器装备与陆军大致相同，不外乎刀、枪、弓弩等兵器，那么训练内容也相差不大，重要的是训练士兵熟悉在水上环境作战的能力，“使战士习熟波涛，若履平地”。
南宋中晚期后，水军装备出现不少火器：“火鎗、火炮、炽炭”。火箭，是一种用弓弩发射的火箭。用纸把火药包装成球或卷筒状，绑在靠近箭镞的箭杆上，用时先点火，然后射向目标。在胶西海战中，宋军大量使用火箭，用“火箭环射”的战术摧毁了大量金军战船。而《金史》则记为：“有顷，敌果至，见我军无备，即以火砲掷之。”这可能是一种投掷性武器，前述宋军在镇压杨么就曾经使用，还有采石之战中南宋水军使用的霹雳砲，外层用纸包裹，内填石灰和硫磺，砲自空中落入水中，硫磺遇水起火，自水中跳出，“其声如雷，纸裂而石灰散为烟雾，”眯住敌方，“人马之目，人物不相见”。这些都是投掷性武器，训练中当然要为训练士兵力量为主。
不过当时火器的杀伤力不足，崖山之战中，元军“豫构战楼于舟尾，以布幙障之，命将士负盾而伏，令之曰：‘闻金声起战，先金而妄动者死！’飞矢集如蝟，伏盾者不动。舟将接，鸣金撤障，弓弩火石交作，顷刻并破七舟，宋师大溃。”假如宋军使用的以火器为主，那元军用盾牌很难抵抗的，可见在远距离作战中宋水军还是以弓弩为主。