军队招起来后，戚继光首先把他们编队。新编的队伍，选派一个哨官；哨官从部下选拔哨长；哨长从士兵中间选拔队长；队长在入选士兵中挑选愿意入队的士兵。然后填花名册，分发武器，进行训练。
戚继光根据年龄不同，体格不同，分给不同的武器。年纪大的使长牌；年轻身手利落的使藤牌；壮年汉子使长枪和刀；年长体壮又有经验的使用狼筅，狼筅用长竹子做成，节枝坚硬，竹杪装上利刃，既能用利刃刺杀，又能借竹枝保护自己，是一件十分好用的武器。因人而异地使用武器，更能发挥士兵们的长处。
作为军事家的戚继光，教给士兵多种阵法，以便在不同的地形采用不同的战术。他看到浙江、福建沿海大都是丘陵地带，多山多水，不像平原可以纵横驰骋，就创造了特别的阵法。例如有一种十分著名的阵法叫“鸳鸯阵”，它以12人为一队。最前一个是队长。次二人一个执长牌，一个拿藤牌。长牌又长又大，可以挡住敌人的重箭、长枪，以掩护后队前进；藤牌轻便，每个藤牌手除了藤牌外，还有标枪二支、腰刀一把，交锋时低头执牌前进，敌人近前就用标枪刺，或用腰刀砍。再次两人拿狼筅，照顾牌手，抵御敌人的刀枪。后面有四人持长枪，这种长枪很长，能够迅速刺杀敌人。再后二人用短兵器，与长枪互相照应。如果长枪刺不中，短兵器立刻上前冲杀。最后一个是火兵。这种阵法能充分发挥各种武器的作用，而且能把12个人结成一个整体，使之迅速适应各种战斗情况，灵活机动地打击敌人。
这支新军由于士兵素质好、织组严密、训练严格，经过两三个月的训练后，便成为一支劲旅投入战斗。
戚继光又招募渔民，编成一支新的水军。为此要制造一批战船，并装备火箭、鸟铳等精良武器。浙江海防所需要的战船，大都拨款在福建制造。戚继光为加强沿海防务，并节省造船费用，于是亲自在浙江督造大量战船。他按照海防的需要，制造了各式各样的战船。最大的叫福船，比它小的一种叫海沧，最小的一种叫艟艨。
福船高大，像一个飘在海上的堡垒，可容100多人。这种船底尖、身子宽，头朝上昂，尾上耸，设舵楼三重，帆桅二道。中间分四层：最下层装满了土；上一层为睡觉的地方；再上一层是升帆、做饭的地方；最上层是个平台。福船吃水可达一丈一二尺，全靠风力在海上航行，乘风破浪，异常平稳。福船体积大，威力猛，能够撞沉敌船，这是它的长处。但是吃水深，不能在浅海航行，无风时又不能行驶，所以贼船一入浅海，福船就无能为力了。这是它的缺点。
海沧又叫海苍，吃水七八尺，风小也可航行。每条船上有船工、水兵53人。海沧由于吃水浅，能在浅海行驶，风小也能航行，这点比福船强。但它在大海里的威胁远远不如福船，这点又比福船差。不管福船，还是海沧，都只能犁沉敌船，不能捞取敌人的战利品，所以作战时还需别的船只辅助。
艟艨是由苍山船改制而来的。苍山船又叫苍船，是旧时浙江太平县地方的一种渔船。为了适应作战需要，戚继光把它改成艟艨船。它比海沧小，但比苍山船稍大，所以又称大苍山船。每船有船工、水手37人。如果贼船深入浅海，艟艨可以追逐，可以近攻，可以捞取敌人首级和战利品，十分方便。
戚继光共建造各种船只44艘，形成一支庞大的水师。这支军队在抗击倭寇中，屡建奇功，发挥了相当大的作用。
由于戚继光的苦心经营，一支坚强勇猛的军队建立起来了。这支军队虽然也是官军，但它的形象、战斗力和别的官军有明显的区别，被人们称为“戚家军”。戚家军所向无敌，百战百胜，在战斗中不断发展壮大起来。
戚继光很重视军民关系，严禁部下骚扰百姓。他常告诫部下：国家在沿海驻扎军队，是为巩固海防和保护老百姓的。是百姓缴粮纳税来养活军队。可是有些军队，不但不打倭寇，反而骚扰老百姓，倭寇来了，还要百姓保护他们。这是什么样的军队？国家要这样的军队何用？只有奋勇杀敌，保护老百姓，才能得到百姓的拥护，他常向士兵提起“岳家军”，“岳家军”对百姓秋毫无犯，“冻死不拆屋，饿死不掳掠”，应该以这样的军队为榜样。
戚继光重视将帅的表率作用，要求各级官吏身先士卒，与士兵同甘苦、共患难。他自己就是这样做的。每次战斗，他总是冒着生命危险，到最前线去指挥。有时前面士兵顶不住时，他会一马当先，冲入敌阵，与敌军短兵相接。平时，他与士兵同甘共苦。一次，行军到乐清，突然下起大雨。为了不骚扰百姓，军队在雨中停歇，不进民房。地方乡绅请戚继光进屋避雨，他婉言谢绝说，“上千名士兵都在雨里淋着，我怎能独自进屋呢？”他坚持和士兵们一起任雨淋，直到雨停，才找个地方歇一歇。
戚继光十分爱护士兵，士兵提的要求，他都认真地对待。他常和士兵一块聊天，问寒问暖。士兵病了，他亲自端着汤药去探病，安慰他们好好养病。士兵家里有困难，他甚至拿出自己的私人积蓄接济他们。对于贪污、克扣军饷的行为，他深恶痛绝，一经查出，严惩不贷。戚家军里，官兵关系融洽，上下非常团结。
这支戚家军，在抗倭斗争中，发挥了极其重要的作用。屡战屡捷，战功卓著，使倭寇闻风丧胆。它的威名，也永远留在百姓的心中。