日本海军原来一直采用的都是西式指挥刀，因为海军刀更多是礼仪的象征，而且西方海军刀也有相当长的历史传统。由于缺乏实战肉搏的需求，日本海军换用传统日本刀作为指挥刀的需求并不大。即使日本后来民族主义抬头，陆军也换装了日本刀样式的94式军刀，海军却仍然使用西式指挥刀。不过后来日本发动全面侵华战争，日本海军和海军陆战队参加了对上海的侵略。日军在上海遭到中国军民的顽强抵抗，在近身肉搏中，中看不中用的西式指挥刀在与中国军队的大刀片对决中又复制了日军在长城抗战中的败绩，更何况日本国内所谓的民粹主义者早就嚷嚷着要让海军和陆军一样把军官指挥刀换成日本刀的样式。于是在1937年（昭和十二年）10月，日本海军制定了日本传统刀样式的昭和十二年敕令海军制式军刀。至此，日本陆海军全部军官刀都改成了日本刀的样式（当时日本没有独立的空军，飞行部队分属陆海军所有）。
海军刀由日本海军少将小泉亲治设计，此人精通剑道，采用了在实战中很有威力的近似于镰仓时代的太刀的刀形。镡没有采用陆军的葵形，而是采用了椭圆形（坚丸形），切羽很有特色，没有使用陆军的小切羽，而是采用了大号的切羽，依日本海军军旗的样式做成了旭日形，称为旭日形大切羽。不过由于海军军官在海战中肉搏的机会几乎为零，且军舰上佩带长刀不方便，于是实际上，海军军官平时多佩带海军短剑，只有海军陆战队的军官平时才佩带长刀。
鉴于海军刀的仪仗色彩更浓一些，所以刀装也就更加精美和华丽。刀鞘采用黑色鲛鱼皮包覆的木质刀鞘，表面做抛光处理。各种饰物也多是镀金黄铜，做工精美，如目贯、石突等装饰品的做工都很精美，全部都有樱花装饰。刀装分为两种———一等装和二等装，另外还有两种金属刀鞘，一种上等品，一种略装。同陆军刀一样，刀条有机械制的，也有传统方法锻造的。要指出的是，一部分海军刀的刀条是用不锈钢造的，主要是为了应付海上恶劣的腐蚀环境。不过总体而言，海军刀的品质普遍较好，不像陆军刀那样差别过于悬殊。
不论是陆军刀还是海军刀，装饰上的最大特点就是樱花。因为日本人迷信“花数樱花，人数武士”的格言。于是在军官刀装上用金属装饰的地方都有樱花的图案。不过有一些高层军官拥有的皇室颁发的军刀上有日本皇室的菊花图案。
士官刀
1935年（日本皇纪2995年），由于军官都已改用日本刀样式的指挥刀，所以日军也仿照军官刀的样式制定了95式陆军制式军刀（通称95式士官刀），来替代以前配发的三二乙型军刀，用以配发给伍长、曹长和军曹等下级士官。由于是制式配发装备，并且是发给下级士官的，这些刀刀条全部为机制，刀条上开有血槽，刀身上还有刀的刀号、生产厂家的标识。刀柄仿照军官刀的样式用铜轧制而成，后来刀柄改成用铝轧制。上面的闭锁装置没有军官刀那样复杂，只是将三二式军刀的闭锁结构放在了刀柄上部，就是持刀时虎口的位置，这样可方便拔刀时开锁。历史照片上砍人的多是这种刀，这也应该是欠下亚洲各国人民血债较多的军刀之一（最多的应该是三十式刺刀）。
当时的日本炮兵还使用一种短剑，全长530毫米，宽刃，一面开有宽大的血槽，早期为铜柄，后期改为木柄，十字形护手上有兵工厂的印记。
日军普通士兵配发的便是三十式刺刀。该刺刀本是与三十式（1897年即明治三十年）友坂步枪配套的装备。刺刀总长525毫米，刃长400毫米，总重0.69千克。刀形为直刀单刃形，两面开血槽。后来日本采用三八式步枪，因该刺刀设计优良，便没有变更。由于日军十分重视拼刺刀，加上三八式步枪本身就很长，装上刺刀后长度大增，在拼刺中很有优势。该刺刀也被中国军队大量缴获和装备，八路军和新四军利用此刺刀在肉搏中也取得了不错的战果。
以上军刀便是侵华日军使用的主要军刀，其他还有一些搭乘者军刀或是一些宪兵军刀以及一些外交仪仗所用的军刀，因数量较少，不多作叙述。
在二战战场上，只有日本法西斯将数量众多的作为冷兵器遗存的军刀带上了战场。因为日本武士道精神的影响，刀被视为武士（后来的军人）精神的象征，也是指挥官权威的象征。在等级森严的旧日本军队中，失去了指挥刀的军官甚至会被士兵看不起。凡遭受过日军侵略的各国人民都不会忘记鬼子军官挥舞长刀耀武扬威的景象，这也是日本侵略亚洲各国人民的铁证。北京的中国人民革命军事博物馆中收藏有冈村宁次的佩刀，还有许多日军高级将领的佩刀，这是我中国军民8年艰苦抗战，付出巨大牺牲换来的成果。台湾省的博物馆中收藏有一柄刻有“南京之役杀106人”的日军军刀，这是对那些否定南京大屠杀的人的有力回击。
受降日军的军官刀最后的下场
受降日军的军官刀
日本帝国主义在对中国发动的侵略战争中犯下了累累罪行，这使得他们佩带的军刀成为了魔鬼和法西斯的象征，我们至今仍然能够在银幕上看到穷凶极恶的日本军人挥舞起罪恶的军刀屠杀中国同胞的情景。
在日本帝国主义使用的军刀中，98式军刀是全面侵华战争后替代94式军刀的产物，是其种种暴行的有力罪证之一。94式军刀与98式军刀两者最为显著的特征是98式军刀的鞘装佩环由94式的双佩环简化为单佩环，尺寸也作了相应修改。98式军刀的配发从1938年持续到1945年，战后遗留数量庞大，只是由于年深日久，品相完好的也为数不多。
这里介绍的98尉官军刀就是一把由美国收藏家珍藏的战利品，除保存情况良好外，这把刀还是一把由日本著名刀匠打造的非量产军刀，同时有一定的史料价值。这把刀的刀身整体状态非常完好，刀鞘漆面光洁，柄丝整洁，外观配饰齐全且全部为原配。兜金上部镶嵌银质家徽，猿手处悬挂标示官阶的尉官刀穗。刀体刃纹流畅，刃部锋利无损，锻打的纹路绵密清晰，且没有任何锈蚀，是收藏者所称的“原磨”品相，比较难得。在刀茎上刻有铭文“浓州关前川兼继作”。在刀鞘佩环处挂有一白布示签，上面有用毛笔书写的“独立步兵第128大队陆军军医中尉内保三郎”字样。应为日军战败时辨明受降军官身份的受降签，一般由本人亲自书写。作为一段不光彩历史的物证，像这种能够精确到番号及其所有人的军刀，其收藏和史料价值是不言而喻的。
刀把标签上的部队
二战时期的日军“独立步兵第128大队”隶属于陆军第六方面军独立混成第23旅团，该旅团参与了1942年日军在中途岛的战役，遭到美国军队的重创。该旅团在惨败后于1943年1月在台湾休整，重新编成，并在同年2月抵达广州湾参与侵华战争，司令部设遂溪。第六方面军独立混成第23旅团的旅团长下河边宪二少将在侵华战争中曾获金侄鸟四级勋章一枚。日本政府宣布无条件投降后，日军第23军司令官田中久一中将率属下23旅团主官下河边宪二等该部队主要指挥官于9月26日在广州向中国第二战区司令官、国民党二级上将张发奎正式投降。10月20日，下河边旅团完全解除武装，此后下河边宪二即作为日军战犯被关押在广州监狱，直至在狱中病亡，结束了其罪恶的一生。
此刀的历史
这柄尉官刀的主人———陆军军医中尉内保三郎在战前是日占台湾的著名医学教授，资历甚老。内保三郎本人并不是一个狂热的军国主义分子，但随着日军在各个战场上的节节败退和太平洋战争的爆发导致了国内兵源紧张，最后终于连他这样一个以救人为天职的著名医学教授也卷进了这场罪恶战争的漩涡中，被征召入伍当了一名陆军中尉，沦为军国主义可耻的侵华工具。此刀应是内保三郎受降上缴后，由国民党官员选捡当作战利品赠送给美国盟友的，一直被美国收藏家收藏至今。