攻陷旅顺后，大山岩司令官得意非凡，嘲讽道：“好个东洋第一坚垒，如此险地，清军仍不能一日守，真乃天意。”为了不致使藏入市民家中的清军官兵逃走，他指挥日军凶残地屠城，四天内，共杀死清军官兵及市民六万余人，全市仅三十六人得以幸免。接着，大山岩挥军大举北犯，想一举占领整个辽东半岛。
旅顺失守的次日，清国举朝震动。军机大臣李鸿藻激愤无状，他参奏李鸿章在平壤、辽东作战指挥上“有心贻误”。翁同龢心潮更是难平，他上折称李鸿藻的参奏为“正言”，指责李鸿章“事事落后”。光绪帝见群臣怨愤，便以李鸿章调度乖方之责，将其革留摘顶；并将龚照玙、黄仕林等处斩，将姜桂题、张光前等革职。
然而李鸿章是慈禧太后倚重的老臣，太后见日军势大、清军节节败退，正想靠着他暗中向日本求和。并且，颐和园能够重修全赖李鸿章拨出水师饷银的一半以供用。李鸿章的三眼花翎顶戴是太后在年初才赏赐的，摘了他的顶戴也就泼了太后的面子，会引起太后的不满。果然，在李鸿章革留摘顶的第三天，慈禧太后亲自召集枢臣会议，宣懿旨无端指责瑾、妃二皇妃向光绪帝“屡有乞请之事”，以干预朝政罪名将她们降为贵人。她还下令将瑾、珍二妃的哥哥志锐发放边远的乌里雅苏台，因他支持光绪帝抗战；还扬言要撤除光绪帝与翁同龢等信臣议事的满汉书房。
伊藤意欲进占山东和台湾，
容闳献计雇外兵由太平洋抄袭日本，
慈禧太后却慌忙中想休战
早在日军攻占金州的前一天，美国国务卿格沙雷姆召见日本驻美公使，表示从中调停之意。后来，英、俄两国也反对日本继续进攻中国，英国担心日本获胜会使中国四分五裂，俄国则关心日本是否要永远占领朝鲜。日本内阁政府在收到日本驻俄、英大使反对继续战争的呈告之后，即作出接受美国调停的决定。
慈禧太后闻知此消息，急忙让年迈的恭亲王奕訢和李鸿章暗中与美国驻华公使田贝接触，请他充当中日议和的调停者，并透露议和以朝鲜独立和相当数量的军费赔偿为基本条件。
翁同龢得知慈禧太后想议和，即奏告光绪帝：“臣以为，水师失利，全在指挥失措。我有北洋、南洋、福建、广东四水师，有战舰八十二艘，总吨位八万五千，且有七千三百五十吨、号称东洋第一舰的主力舰。而倭人全部军舰只二十八艘，总吨位是五万七千，主力舰最大者为四千三百吨。臣闻林乐知亦言，我国海军乃世界海军第八位，倭人海军才列第十六位。今黄海虽败，但仍可与敌一战。若借得巨款，向智利、阿根廷购得快船二十号，又调来南洋舰队助战，定可一举从海上击破联合舰队。至于陆上，宋庆、聂士成所率领大军当能在辽东反攻中获胜。”光绪帝也断然不同意议和，得奏后即佯装批评主和的大臣：“冬三月倭人畏寒，正我兵可进之时，而云停战，不是以计误我耶？”他一面饬勉宋庆、聂士成率军在辽东奋力反攻，一面传旨派人商议购船。
御史安维峻在得知李鸿章承太后意旨拟与日本议和后，则向光绪帝呈折参奏李鸿章。他在折中言：“李鸿章不但误国，而且卖国，恨不能欲食李鸿章之肉以解天下臣民弥天大恨。”安维峻奏折揭露“和议出自皇太后，太监李莲英实左右之”的传闻，指斥“皇太后既归政皇上，若仍遇事牵制，将何以上对祖宗，下对天下臣民！”然而安维峻参奏一上，慈禧太后立马获悉。她极感愤怒，立即逼迫光绪帝仰承懿训降旨以“肆口妄言”罪名，将安维峻革职发遣。
日本内阁虽然作出接受美国调停的决定，但陆奥外相并不想马上议和，而想让日本占领辽东半岛再说。他在给美国公使的公函中透露，如果中国不能作出令人满意的答复，日本立即灵活使用海陆两军。
鉴于辽东前线的第一军司令官山县有朋实行直隶作战的打算有可能破坏日本的议和计划，伊藤首相便以要山县养病为由将他召回。伊藤担心，日军倘若在直隶作战成功或占领北京，清国将是满朝震惊，暴民四起，土崩瓦解而陷入无政府状态，并引起中外舆论纷纷，招致各国联合干涉之局势。要是北京政权瓦解了，日本想和谈也失去了对手，在政治策略上反而不利。并且，冬季作战实非易事，首先是渤海湾结冰运输发生困难。鉴于此，伊藤把下一个军事目标确定在山东和台湾，并在12月4日向大本营提出《应攻打威海卫、占领台湾的方针策略》。十日后，大本营根据伊藤的意见重新改编第二军，组建了以大山岩为司令官的山东作战军，并命令联合舰队司令官伊东与之配合进攻威海卫，计划全歼退守威海卫的北洋舰队。
黄海、辽东战事的失利，促使清廷去加强山东的战备。接任山东巡抚的廉使李秉衡到职后，早已在积极添募勇营，调兵遣将，以加强沿海防线。至年底，清军在山东半岛的总兵力已有六十营，共约三万人，分布在荣成、威海卫、宁海、烟台、登州等地，与北洋舰队互为引援。防营练成后，李秉衡每每亲往视察，告诫各处官兵：“倭人是无人性之蛮族，破旅顺后，血腥屠城，鸡犬不留。连美国一家报纸也称，日本乃披文明之皮而具野蛮筋骨之怪兽。我等今日乃是同此怪兽死战，务请诸位尽守土之责，杀敌尽忠。”众官兵听了，都愤怒无状，表示誓死与倭人拼死一战，捍卫国土。
李鸿章知道经过黄海一战之后北洋水师力量大为削弱，便着丁汝昌整训水师加紧海上防务，令其坚守威海不出海与敌交战，以保船制敌。李鸿章还接受幕僚献计，任命洋员帮办北洋海军提督和聘用“挟奇技来效”的洋人，并奏调南洋水师主力舰来助战。
然而，应聘帮办北洋水师提督的英国人马格禄原本是个拖船船长，对战事一窍不通，到职后终日嗜酒。另聘用的两个美国人宴汝德和郝成，并无奇技，只是利用简单机械原理在舰尾增添一部喷水机。南洋水师也不听调遣，因南洋大臣张之洞素与李鸿章意见不合，奏称战舰北调只能徒供一击。两江总督刘坤一亦奏请免派南洋战舰，以保东南各省，
清军在辽东战场的节节败退和东南大臣的不听调遣，使清廷感到军事致胜无望。光绪帝为免遭更大的失败，决定休战。
然而在这时，南洋大臣张之洞电奏驻美副公使容闳条陈：速向英伦商借一千五百万元，以购铁甲三四艘，雇用外兵五千人，由太平洋抄袭日本之后，使之首尾不能相顾，则日本在朝鲜之兵力，必以分而弱。中国乃可乘此暇隙，急练新军，海陆并进，以敌日本。或派员将台湾全岛抵押于欧西无论何强国，借款四万万美金，以为全国海陆军继续战争之军费。张之洞并奏：已回电容闳，着派他速赴伦敦借款。光绪帝闻此奏不禁大喜，遂准奏。不及一月，容闳筹商借款就绪，托公使转电清廷请以关税为抵押。然而总税务司赫德、直隶总督李鸿章上奏不允所请，李鸿章尤言日本获胜将要求一极大赔款，关税将指为日本赔款之抵押品。于是，容闳借款雇兵的条陈、张之洞的奏议被否置，光绪帝不得已同意议和。
日海军下威海卫、北洋水师尽为所掳
1895年1月5日，慈禧太后和光绪帝一起召见尚书衔总理各国事务大臣户部左侍郎张荫桓和湖南巡抚邵友濂，命为全权大臣，前往日本会商议和。张荫桓、邵友濂奉命从上海启程抵长崎转赴广岛后，不意伊藤博文首相和陆奥宗光外相却谓清廷使臣没有全权，拒绝和谈。原来，日本是想等彻底消灭北洋水师以后再行议和，以造成日后更为有利的和谈条件。经过充分准备和周密侦察，日军山东作战军确定了水陆两路作战计划。陆军作战的登陆地点确定在荣成湾，海军作战则拟采用鱼雷偷袭和诱出北洋舰后加以击毁。
为了掩盖陆军先行作战的计划，交战前一天，日本联合舰队司令官伊东祐亨利用英舰向清军水师提督丁汝昌下劝降书，百般利诱威胁，但遭丁汝昌严拒。同时，日军从海上连续两天炮击登州，造成要从登州登陆的假象。李秉衡见状，急令派重兵加强防守登州，然而日军却乘清军不备冒雪从荣成湾登陆，占领荣成。
光绪帝得报后，电令李鸿章速筹调度，急命定远等舰齐出，冲击日本运兵商船，断其退路。但李鸿章此时像惊弓之鸟，他仍让北洋舰队原地待命，全部龟缩在威海卫，这便使数万日军顺利得渡荣成湾，并从荣成湾直扫威海卫。日军攻陷威海卫后，立即大肆烧杀掳掠。
由于威海陆地全失，北洋舰队失去后防，只好以刘公岛为唯一依托。日军得势后，便从水陆两路向北洋舰队进攻，海上以全部十二艘战舰列阵包围，并以鱼雷艇进行偷袭；陆上则利用所夺取的炮台发炮夹击。北洋舰队虽然势危，但仍然英勇反击。双方炮战异常激烈，巨弹交迸，猛响如百雷齐发，飞浪高及数丈。激战至最后一天，北洋舰队各舰艇弹药将尽，十五艘鱼雷艇首先溃逃。可是，出逃的鱼雷艇不幸全被日军俘获。
提督丁汝昌见北洋水师在日舰的围困下苦战无援，处境危殆，遂饮鸦片自杀身亡。洋员马格禄和郝威见丁汝昌已死，便鼓动诸舰将领投降，马格禄对各舰管带说：“如此作战，哪有不败之理？刘公岛像是丁提督的旅馆，他关心的是租屋收钱，分明是个商人，哪里像个将军？战事已到如此地步，来远、威远两管带还在岸上妓院寻欢不归，你们不投降在这里等死吗？”马格禄话刚说完，郝威便拿出起草好的降书要各管带签字同意。众将领也觉得只有投降才是生路，便同意投降，并议定以广丙舰管带程璧光为降使，在一炮舰上悬起白旗驶向日军旗舰乞降。
日本联合舰队司令官伊东祐亨以傲慢的态度接受了清水师的投降，他指挥联合舰队鱼贯驶入威海卫港，派人将北洋十舰及刘公岛炮台的龙旗都易了日本旗。
李鸿章赴日乞和。
日本索要赔款三万万，还要割占辽东、台湾。
李鸿章居理力争，伊藤则气焰嚣张，
只是在对手遇刺后他才略作让步
在日军将北洋舰队舰船全部俘获的当天，日本政府声称：清国必须另派议和大臣，这议和大臣须有允偿兵费、朝鲜自主、商让土地及与日本日后办理交涉能画押之全权。慈禧太后因山东新败，更是求和心切，得讯后便一人作主，命李鸿章为全权大臣赴日乞和。
李鸿章受命后即着手安排随员，他让出使过日本的儿子李经方任议和参议，任罗丰禄和二品顶戴候选道伍廷芳为参赞，聘前美国国务卿科士达为顾问，以候选直隶州罗庚龄为东文翻译。安排就绪后，李鸿章携一行人于3月14日晨从天津乘德国商轮启程。船至途中，突然狂风大作，平静的大海顿起惊涛骇浪。从这狂风怒涛中，李鸿章隐隐感觉出一种不祥之兆。
经过五天航行，李鸿章一行于3月19日晨抵达马关。码头上冷冷清清，几位日方的接待人员把他们接至引接寺旅馆住下。
次日，日方即与中方在马关红石山下安德天皇祠旁的春帆楼会谈。日方谈判代表团阵营强大，它以伊藤博文首相和陆奥宗光外相为全权办理大臣，随员有内阁书记长官、外务书记官、外务大臣秘书官、外务省翻译官、原驻华使馆书记生等。
李鸿章想在谈判中争取主动，在与伊藤博文交换敕书后，即令罗丰禄宣读拟请停战的英文备忘录，以求在开议和约之前两国军队即行停战。
可是伊藤博文听罢，却说此事明日作复，并问李鸿章：“此次贵国修好之心诚否？”
李鸿章连忙表白：“我国若非诚心修好，必不派我；我无诚心讲和，亦不来此。”他进而以中日同种亲睦与西方抗衡说来打动伊藤：“贵我两国乃东洋之两大国，同种同文，利害攸关。我国与贵国提携，共图进步，借以与泰西争衡，防止白色人种之东侵，此乃两国之共同愿望。今虽一时交战，终不可不恢复和平，且冀更进而为亲睦之友邻。切望贵我两国将为东亚之两大强国，以与欧美持久对抗，庶几变今日之不幸为两国深交厚谊之基础。今我国人虽有多数怨恨贵国，而我对贵国反多感荷。缘我国有识之士，鉴于今日之大败，必有所觉悟。倘能恢复两国之和平，以其唇齿相依之关系，促进国家之兴盛，永保东亚之和平，则足以实现两国之宿愿。”