在倭寇疯狂骚扰期间，由于海防军队不够，从外地调来许多兵，称为“客兵”。浙江人民满心欢喜地接待他们，想方设法为他们筹饷，希望他们能奋勇杀敌，把倭寇赶出去。但令人失望的是，这些客兵的表现实在不怎么样，不守纪律，不听调遣，甚至于抢劫老百姓，和强盗差不多。他们在老百姓面前如狼似虎，一旦遇到敌人，离敌人很远时，就望风而逃，听到倭寇的名字，也吓破了胆。民间流传到这样的话：“宁遇倭贼，别遇客兵；遇贼还可逃，遇兵不保生。”可见人们对这些客兵的厌恶。
戚继光率领的就是一支客兵。在这两次龙山所附近的战斗中，戚继光深深意识到军队的腐败。他认为：政府如果不及早采取措施，训练出一支强有力的军队，而是把平倭的重任寄托在这么一支支七拼八凑、不堪一击的客兵身上，不仅对浙江抗倭大局无益，相反只有“徒增贼势猖狂，以贻羞笑”。是很难取得抗倭战争胜利的。
1556年12月16日，戚继光起草了一篇公文，正式向上级提出要求自己练兵的建议。他提的建议都切中要害，是切实可行的。而他的建议遭到保守势力的反对，练兵计划没能实施。
1557年春天，戚继光打算再次向上司提出练兵的建议。这次更是经过深思熟虑的，提建议之前，还和他的部下商量过。可部下都摇头，表示不同意。有个比较谨慎的人对他说：“我认为这需要三思而行，许多人都提出过练兵的想法，可谁也没有试过。这事不是小事，关系的人很多，将军还要三思而行。”
戚继光想了想说：“我们从军之人，以报效国家为己任，如果有好的方法能够制敌，而不去努力争取，那就有失于军人的称号。”
“可是，俞大猷将军、胡宗宪总督都练过兵，效果也不怎么样。”一个对练兵了解比较多的军官说。
“可是，谭纶练习了1000多人，不是成为一支劲旅了吗？你大概没听说过吧。”戚继光反问道。
“可是，胡宗宪总督怎么就没练出好兵呢？他是一省长官，有许多有利条件。如果他还做不到，说明练兵是不切合实际的。我常听人说，江南人柔弱，练不出精兵的。”
“我认为这是偏见，江南人与江北人只是生活习性上有区别，百人的小村，还有忠义的人；这么大一个浙江，怎么没有勇士呢？兵贵练，不练是出不了精兵的。你们看咱们的士兵，缺乏纪律性，士气低落，对于军令知道很少。盔甲军衣都缺，有的只好光着膀子打，身上没有盔甲，以这样的军队和那些不怕死的强盗对战，怎么能行？士兵们都爱花架子，对杀敌的真本领却不愿学习；行军没有车马，做饭没有灶台，打仗没有号令，防守没有堡垒，怎么称得上军队？这样下去，就是打上几十年，倭寇也消灭不了。为长远计划，不练兵是不行的。”
大家听了这番话，觉得很有道理，许多人都点头，说：“确实，这样的兵，再打一百年也荡不平倭寇。”
戚继光接着说：“这次我提的练兵建议分三步：第一步是建立坚固的兵营，这样进可以攻，退可以守；第二步是选兵，选精干的兵，淘汰老弱残兵；第三步是练兵。三步若都能实现，倭寇指日可平。”
大家都点头，希望这些建议能够被采纳。
戚继光也和同僚们商量过，结果他们哄堂大笑。有的人甚至说：“抗倭的事，自有总督、巡抚管，你何必操心？而且，从未听说过倭寇是可以消灭的。咱们只要等他们捞足杀够，退回海里时，在后面追杀一阵，就可以立功了。只要有油水可捞，管那么多干吗？”
戚继光听了这话，心中有说不出的凄凉，“军中有这样的主将，怎能打胜仗！”他长叹一声，说：“统帅三军的主将，一定要知道练兵。这个‘练’字，就是把生丝练成熟丝，以便织彩的那个‘练’字，巧匠能把生丝练成熟丝，而将官却不能把有知觉的人练成有战斗能力的兵，能不惭愧吗？况且倭寇除非全部消灭，否则，即使一时撤退，谁能确保他们以后不卷土重来。如果不练好兵，又怎么能最后消除祸患呢？”
戚继光不顾别人的议论，毅然上书。建议书先给了总督胡宗宪。他看完后，十分气愤，将它往地上一扔，说：“我又不是没练过兵，浙江人要是能练，我自己早就练了，还要等你来。”原来前几年，他曾招募1000多浙江兵，日日训练，结果没有成效。胡宗宪是个圆滑的人，他转念一想：“戚继光要练兵一事，浙江人可能早就知道了。如果我不答应，他们追问起来，要归罪于我的。还是让这个不知天高地厚的人试试吧。”他同意了他的建议，练兵这件事，就定了下来。
可是由于官场办事拖延的积习和其他种种原因，练兵的建议虽早已批准，却未能尽早实现，一直拖了近一年，才拨给戚继光3000名士兵，由他负责训练。但是，戚继光自己选兵的愿望没能实现。