秋高气爽的9月，平静的江华岛海面忽然驶来一艘日本军舰，朝鲜海军发出信号令其不要继续前行。然日舰以测量海口为由擅自闯入朝鲜领海。日本政府以此为借口，强迫朝鲜开放通商口岸。同时，日本外务少辅森有礼到中国同总理衙门谈判中朝宗藩关系问题。森有礼强调，中国对朝鲜内政外交一概不予干涉，朝鲜不是中国的附属国。《中日修好条规》不适用于朝鲜事务，日本与朝鲜之间的分歧与中国无关。总理衙门大臣奕訢则表示：朝鲜自古是中国的附属国，与中国领土无任何区别，符合中日条约中“两国所属邦土不可稍有侵越”的规定。李鸿章远在天津，却始终密切关注着事态的发展。李鸿章认为，日本表面上与朝鲜议和，实则在积极备战，以策动更大规模的战争。朝鲜与中国一衣带水，唇亡齿寒，如果朝鲜被征服，日本的下一个目标就是中国。然中国的洋务事业刚刚展开，一旦发生战争，多年努力都会付之一炬。李鸿章经过再三权衡，决定牺牲朝鲜利益。森有礼与奕訢谈判陷入僵局后，绕道保定拜访李鸿章。森有礼对李鸿章说：“国家间的事情，主要靠实力说话，大可不必依照条约办事。”李鸿章针锋相对：“如果随便违反条约，恐怕万国公法不会允许。”森有礼蛮横地说：“不管怎么说，朝鲜已不是中国的属国！”李鸿章平静地答道：“朝鲜一直在沿用中国的历法，怎么不是中国的属国？”森有礼藉着酒劲大叫道：“取了朝鲜又有何好处？”这句话本是对中国而言，李鸿章冷笑一声，道：“我就送你八个字，‘徒伤和气，毫无利益’！”森有礼一时无话可说，顿时软下来，请求李鸿章劝说总理衙门，让朝鲜接待日本使臣。
果然，李鸿章劝说总理衙门对日本作出让步，以表示对日本“格外和好”。朝鲜失去中国的支持，很快同日本签订不平等条约。从此，朝鲜成为“自主之邦”，与中国没有任何关系。不久，日本勾结朝鲜政府中的亲日派阴谋发动武装政变。朝鲜军民与驻朝清军联合起来粉碎了政变。日本政府任命伊藤博文为全权大使，同清政府谈判朝鲜善后事宜。中日双方达成协定：中日军队撤离朝鲜；如朝鲜发生重大事件，中日两国拥有同等的用兵权。
1894年，朝鲜爆发“东学党”起事。朝鲜政府通过清驻朝商务总办袁世凯转告李鸿章，希望清廷出兵镇压国内起事。袁世凯在致李鸿章的电文中说：“朝鲜政治腐败至极，国王四处购买玩物，宫中日夜歌舞不休，兵士已四个月无饷可发。”日本驻朝使馆翻译郑永福对袁世凯说：“朝鲜发生内乱，政府又无能力解决，真令人担忧！贵国为何不助朝一臂之力？我国对此事绝不干预。”同时，日驻天津领事亦向李鸿章刺探军情。李鸿章答曰：“朝鲜政府请求派兵，我们不会袖手旁观！”接到袁世凯的电报，李鸿章决定派兵开赴朝鲜，同时令驻日公使汪凤藻通知日本政府中国已出兵朝鲜。日本得知中国出兵的消息，以保护本国商人为由，出兵占领汉城。袁世凯见日本人出尔反尔，即刻没了主意，电报询问李鸿章如何处理。李鸿章告诉他，不必慌张，静观其变。李鸿章将希望寄托于英美等列强的外交调停。这下急坏了仅有几千兵力的袁世凯。他不断催促李鸿章出兵朝鲜。后世不少史学家诟病袁世凯是挑起中日战争的罪魁祸首，这种说法值得商榷。由上可见，其实日本政府才是挑起甲午战争的真正元凶。然李鸿章对袁世凯在朝鲜的表现非常满意，后一直对其抱有厚望，临死前还向慈禧太后极力保荐：环顾中国大小臣工，无一人比袁世凯更为出色。
刚刚亲政、急于有所作为的光绪帝对李鸿章迟迟不肯出兵极为不满，多次令其出兵朝鲜。李鸿章奏曰：北洋海军可战之船共有八艘，其余只能运输军饷和平时操练，海上交锋没有必胜把握；陆军兵力亦捉襟见肘，如抽调大部出境援朝，国内防务势必空虚。因此，我军应采取防守战略。光绪帝驳回李鸿章的奏议，下拨三百万两白银，要求其积极备战，随时准备出兵援朝。李鸿章仍然按兵不动。李鸿章一再拖延，引起朝中大臣的普遍不满。他们纷纷上书弹劾，认为他贻误战机、畏缩退让。日本军队占领朝鲜后，一直在寻找对中国发动战争的借口，李鸿章偏偏不采取任何行动，使日本白白在朝鲜耗费时日。
1894年7月23日，日本政府终于“忍无可忍”。日军攻入朝鲜皇宫，建立了傀儡政权。24日，朝鲜傀儡政权宣布对清宣战。25日，日本军队在丰岛海面偷袭中国护航舰和运兵船，正式发动侵华战争。李鸿章最担忧两件事：一是北洋海军缺乏优秀的军事统帅指挥前敌；二是北洋舰队几年没有添置新舰，防守有余，进攻不足。李鸿章制订了十六字方针：“严防渤海，力保沈阳，集中兵力，再图大举。”此战略虽强调海防之重要性，却忽略了辽东半岛和山东半岛，给战争的进行留下了严重隐患。
9月17日，北洋水师十一艘军舰护送清军在大东沟登陆后准备返航。途中遇到十二艘悬挂美国国旗的军舰。突然，十二艘船舰上的美国国旗全部换成日本旗帜，向北洋军舰发动袭击。中国军队奋起还击。双方激战了5小时，北洋舰队损失惨重：五舰被击沉，六舰负伤，死伤官兵千余人。日军有五舰受到重创，死伤六百余人，并先行撤离战场。
水陆两线作战清军全部溃败，一时议和舆论甚嚣尘上。慈禧令户部尚书翁同龢到天津同李鸿章商谈和战之事。翁同龢是当时主战派的领袖，见到李鸿章后严厉责问其为何迟迟不肯发兵，以致贻误战机！李鸿章怒目而视，冷笑道：“翁师傅主管户部，平时向您要经费时总遇冷脸，事到临头才来责问。我倒想问问您，那几条军舰能靠得住么？”翁同龢反问道：“为臣者本应尽职尽责，为何不再向朝廷请求？”李鸿章答曰：“朝廷疑我飞扬跋扈，大臣弹劾我贪财舞弊，我若继续索要经费，今天还有李鸿章么？”翁同龢争他不过，把话题引到战局问题：“东北乃龙兴之地，如果失守如何是好？”李鸿章坦白道：“奉天军队实靠不住，我鞭长莫及，东北防务一点把握都没有。”半个月后，辽东半岛沦陷，奉天危急！
而此时，北京城内歌声悠扬，鼓乐冲天，正是慈禧太后的六十大寿。紫禁城和颐和园张灯结彩，喜气洋洋，丝毫看不出战争的痕迹。“老佛爷”五十大寿时就因法国人作祟没过好，这次可要好好庆祝一番。总管太监李莲英下令，这段时间内凡可能令“老佛爷”不高兴的事一律不准奏报！这一做法果然有效，慈禧下令，大赦天下，放假三天。李鸿章可没闲着，前线救急电报雪片似的发来。李鸿章加紧了求和步伐：一面派人以祝贺俄国新帝即位为名请求俄国出面调停；一面委托天津海关税务司德璀琳赴日议和。李鸿章对德璀琳充满期待，对外宣称：如果德璀琳和伊藤博文谈判顺利，中日可先停战，再议和。日本政府此时全无议和之意，认为德璀琳不符使者资格，拒绝与其谈判。德璀琳在日本呆了几天，连伊藤博文的面也没见着，觉得很没面子，便找个借口：“本日接到恭亲王电报，说日本政府已承诺由美国政府来仲裁，所以本人没必要在日本逗留，即刻返回中国。至于李鸿章的信函，我已在日本邮寄给伊藤伯爵。”随后灰头土脸地回到天津。日本报纸评论德璀琳此次斡旋是：“冒然而来，怅然而返，真是好生奇怪！”
李鸿章焦急等待德璀琳和美、德外交调解时，日军连续攻陷金州、大连，向旅顺猛扑。旅顺口与威海卫隔海相望，是渤海门户。日军决定以“重大伤亡代价攻取旅顺”。日军攻占旅顺后进行了惨无人道的屠城行动，全城仅留三十六人负责掩埋尸体。负责旅顺船坞工程的龚照玙，金州失陷后逃回天津。李鸿章令其回旅顺前线效力。然日军进攻旅顺时，他弃船厂于不顾，乔装改扮混在士兵中逃跑了。当时人们编了“文官三只手，武官四只脚”的歌谣讽刺淮军逃跑之快。李鸿章一生都以淮军为荣，此次败逃实使其遭受了不小的打击。
日军的下一目标是威海。李鸿章令丁汝昌不惜任何代价，也要守住威海卫。当时朝野均指认北洋水师提督丁汝昌贪生怕死、畏敌避战，要求将其立即撤职。北洋海军总教习德国人汉纳根评价道：“有人责备北洋海军，殊不知这不是北洋海军的过错，也不是丁提督的过错。有人钳制海军，丁汝昌不能做主。”这个人就是李鸿章。李鸿章认为中日军队实力悬殊，攻打旅顺时，丁汝昌曾请求舰队与日本决一死战。李鸿章坚决反对，对丁汝昌说：“你在威海卫守住那几只船，其余不关你的事！”
日本此时突然改变战略，在报纸上公开刊登议和“价码”：中国赔偿军费四亿两，并将日目前所占之区割让日本。清政府认为条件虽苛刻，却有议和的希望，任命邵友濂、张荫桓为全权大臣，赴日谈判。一向主张议和的李鸿章对此次议和态度并不积极，他认为日本此时提出议和，其中定有蹊跷。果然，清方使臣还未踏上东瀛，日军便发动更大攻势。二人使团的迅速成行明确显示出清政府无心恋战、急于求和的真实意图，也使日本政府坚信，战争越扩大就越有利可图。
1895年2月2日，威海卫失陷。统帅丁汝昌早已作好与北洋舰队同存亡的准备。丰岛海战后，他将儿子丁代禧留在身边，儿媳张氏和孙子丁旭山送回原籍。临行前他交代张氏：“我的生命已交给了国家，你一定要照看好我的孙子！”刘公岛保卫战开始后，丁汝昌向李鸿章表示：“唯有船没人尽而已！”丁汝昌派人将鸦片送到船上，以备如果不能战死就服毒自尽。为防止受伤军舰落入敌手，丁汝昌用广丙舰的鱼雷炸沉了已搁浅的靖远舰，又在定远舰中部装上火药，将其炸毁。定远舰管带刘步蟾吞鸦片自尽，实践了“舰队亡则人亡”的誓言。丁汝昌向广大官兵许诺的最后一天终于来到了。傍晚，丁汝昌收到李鸿章的电报，上面写着“援兵无期”！
最后的希望破灭了。深夜时分，水陆兵民万余人向他哀求活命。丁汝昌叹口气，道：“与军舰同生死是我的职责。但我的死可以救你们的命。”他向大家暗示自己死后可投降日军以求活路。并交代部下牛昶销毁北洋水师的提督印。丁汝昌服下事先准备好的鸦片，次日清晨气绝身亡。
牛昶和杨用霖主持了投降事宜。杨用霖当场拒绝，口诵“人生自古谁无死，留取丹心照汗青”的诗句走入船舱，饮弹身亡。护军统领张文宣同时自尽。美国人浩威建议以丁汝昌的名义投降，牛昶在投降书上盖提督大印。几人将责任推到丁汝昌身上。可怜丁汝昌死后蒙羞，家产全被没收，子孙流离失所。直到宣统二年（1910年），在威海商民联名提议下，方由袁世凯上奏为其平反昭雪。
1895年2月17日，日本舰队徐徐驶入威海港。中国镇远、济远、平远、广丙、镇东、镇西、镇南、镇北、镇中、镇边等十艘军舰换升日本国旗。只有康济舰仍悬挂黄龙旗，载送着丁汝昌、刘步蟾、杨用霖等六人的灵柩。下午1点，十艘中国军舰全部编入日本舰队。4点，康济舰在汽笛的哀鸣声中，冒着潇潇冷雨，凄然离开威海。李鸿章苦心经营的北洋舰队、精心培养的海军人才同他洋务救国的梦想一起覆没了。