美国陆军第24军在冲绳南部地区的进攻非常艰难。因为日军在冲绳岛的主力就部署在南部，而且他们充分利用悬崖峭壁、深沟高谷等险峻地形构筑起坚固隐蔽的防御工事。牛岛满中将把全部兵力用于依托工事进行坚守防御，给24军造成了很大困难。所以，美军进展极其缓慢。
4月13日，美国总统罗斯福在佐治亚州温泉逝世。美军上至上将司令，下至普通士兵，无不感到震惊和悲痛。尼米兹以太平洋战区全体官兵的名义向罗斯福夫人发去了唁电。日军则乘机大做文章，大肆散播题为“美国的悲剧”的传单，以鼓舞日军的士气。
在大本营的一再命令下，牛岛终于发动了反击。日军先以敢死队员怀抱炸药采取自杀攻击方法炸毁美军坦克，再对失去坦克掩护的美军步兵发起冲锋。美军在日军的冲击下，节节败退，死伤将近5000人。此后，凭借后续部队的重炮和海空优势火力才将日军的攻势遏制。
4月19日，美24军3个师从那霸以北约6.5公里处发动大规模进攻。5时40分，海军的6艘战列舰、6艘巡洋舰和8艘驱逐舰先对日军阵地进行猛烈炮击。6时，陆军27个炮兵营对日军阵地进行了长达40分钟的炮击，共发射了1.9万发炮弹，接着海军和陆战队的650架飞机也对日军阵地实施了航空火力准备，投下大量的炸弹和凝固汽油弹，在这一系列猛烈持续的火力打击后，24军发起了进攻。但日军利用坑道有效躲避美军的轰击，当美军地面部队展开攻击时，他们才出来迎战，因此美军的攻势一次次被瓦解。
日军充分显示了其顽强的战斗意志。每一个山头，每一个碉堡，每一个坑道，甚至每一块岩石，美军都必须经过多次血战，才能夺取下来。激烈的战斗整整进行了5天，美军的进展总共也不过数米！为了改变这种局面，美军将陆战1师和陆战6师调到南线加强正面进攻。当美军推进至日军主要防线前的4500米处，双方陷入僵持。
4月24日，美军投入了新型的喷火坦壳和重型坦克，终于克服了日军的顽强抵抗。这些坦克冒着日军的枪林弹雨，碾入日军的战壕，冲入日军的阵地。喷火坦克将凝固汽油射入日军隐藏的山洞和坑道，日军终于支撑不住，其防线逐渐被突破。
牛岛随即在夜色有烟雾掩护下，悄然组织部队有序地撤往下一个防线。因此，战斗发展成这样一种模式：日军光是凭险死守，接着美军在猛烈火力动摇下取得突破，日军后撤到下一道防线内死守，如此周而复始，日军的防区逐渐缩小。美军终于5月27日攻占了那霸，并继续向冲绳岛的首府首里城前进。
5月31日，美军突破了日军核心防御地带首里防线，终于取得了重大进展。海军陆战队攻入了已是一片废墟的首里城，第10军司令巴克纳满心喜悦，以为冲绳首府被占领就意味着战斗即将结束。但他的想法大错特错了，日军困兽之斗反而更加疯狂！
牛岛率余部后退了约10公里，退到岛南端精心准备的最后防线。这是由两座山峰构成的天然屏障，地势崎岖险峻，日军充分利用地形，筑有25处隐蔽的炮位和坑道工事。牛岛决心以此为依托，战至最后一兵一卒。因此，日军抵抗丝毫没有减弱。
美军主要依靠喷火坦克开路，不少浑身着火的日军冲出阵地，抱住美军士兵同归于尽。美军每前进1米依然非常艰难。而对日军更加疯狂的抵抗，美军还以更猛烈的炮火。美军的海陆空密集炮火对日军据守的岛南部几平方公里地区进行了最猛烈的轰击，日军虽然只剩下3万余人，大炮也损失过半，弹药更是所剩无几，但仍是死战不退。
6月17日，美军又投入预备队——陆战2师。该师一个团在冲绳岛南端的喜屋武岬附近登陆，协同正面和侧翼友军围歼日军。此时，日军的局热已十分被动，遭到全歼只是时间问题。为了避免不必要的伤亡，巴克纳用明码电报和广播向日军劝降。牛岛根本不为所动，以枪炮射击作为答复。
6月23日凌晨4时，牛岛知道美军即将占领他所在的摩文仁坑道。他脱下军装，换上和服，与身边的参谋一一干杯。喝完了最后的诀别酒，他剖腹自杀。他的参谋长也追随他剖腹自杀，还有一些军官也随之集体自杀。至此，日军有组织的抵抗才告平息。而零星日军的抵抗仍在继续，清剿残余日军的工作一直持续到6月底。
与这些死心塌地的军国主义分子不同，日本普通士兵在战役进入尾声后，有相当多的人放下了武器，这在以前是非常罕见的。6月15日前，2个半月的战斗中美军总共才俘虏日军322人，而从6月15日到6月30日，日军不仅有个人或小组投降，甚至还有成建制的部队在军官带领下投降，仅海军陆战队第3军就收容日军投降人员4029人。
冲绳战役从3月18日美军航母编队袭击九州开始，至6月22日冲绳岛战斗基本结束，共历时96天，其中在冲绳岛上的激烈战斗就有82天之久。日军包括“大和”号战列舰在内的16艘水面舰艇和8艘潜艇被击沉，约4200架飞机被击落击毁，日军在冲绳岛上的约10万守军，除9000余人被俘外，其余全部被歼，冲绳岛的平民有7.5万人死伤。美军有32艘舰船被击沉，368艘被击伤，其中有13艘航母、10艘战列舰、5艘巡洋舰和67艘驱逐舰遭到重创，损失舰载机763架，阵亡1.3万（陆军4600人，海军4900人，海军陆战队344人），受伤3.6万人（陆军1.81万人，海军4900人，海军陆战队1.36万人），另有2.6万人的非战斗伤亡。
冲绳岛战役是美军在太平洋战争中伤亡最大的战役，因此，英国首相丘吉尔认为冲绳战役将以史诗般的战斗列入世界上最激烈、最著名的战斗，而流传后世。
鉴于在战役中所付出的惨重伤亡，美军没有举行大规模的庆祝活动。
冲绳战役和前不久进行的硫磺岛战役，使美军深深明白，如果要在日本本土实施登陆，美军将面对无法估计的疯狂抵抗。美军参谋长联席会议认为，在日本本土登陆，美军将会付出100万人的伤亡。因此，促使美国最终决定对日本使用刚刚研制成功的原子弹，以尽快结束战争。