清政府1895年初在与日本的甲午之战中落败，被迫求和。双方谈判地点定在日本马关（现称“下关”）。这个位于日本本州岛最西端的小镇由此闻名，吸引了全世界的目光。
3月14日，清政府全权谈判代表李鸿章携其子李经方，二品顶戴罗丰禄、马建忠、伍廷芳，美国顾问科士达以及随从医生、武弁、厨师、茶房、轿班、理发匠等共计135人的庞大使团，乘坐德国商船“公义”号、“礼裕”号，从天津港起航，19日上午8点到达马关港。日方外务书记官井上胜之助等人到港口迎接，并照会清政府代表团：日本内阁总理大臣伊藤博文、外相陆奥宗光为日方议和全权代表。双方约定，次日下午3点在春帆楼举行第一次会议。当天，使团按预定方案暂住在船上。
马关港口除了有接待的日方工作人员，还挤满了看热闹的日本人。其中夹杂着不少玄洋社、神刀馆等当时日本黑社会的暴徒们。这些人挥舞着太阳旗和日本军旗，狂呼“打到北京去，占领全清国！”、“杀死李鸿章，反对媾和”等口号。此情此景，让李鸿章原本欠佳的心情越发沉重。
李鸿章：“停战一事，是议和的‘第一要义’。”
伊藤听后略思片刻，说：“明天答复。”
3月20日下午2时30分，李鸿章等乘坐汽艇“小野田”号抵达阿弥陀寺街镇守神社前的临时栈桥，上岸后坐轿进入谈判地点春帆楼。随员有李经方、罗丰禄、伍廷芳等9人。罗丰禄携带用丝织品包裹的卷轴国书。据日方当日报纸报道：李鸿章脸色壮实，穿黑色上衣、褐色缎裤子，脚着薄底快靴，戴金边白玉眼镜，身高五尺六寸左右，高于他人。出船舱与登石阶时，由两名侍者搀扶。出船移步至栈桥时，见观者人山人海，似乎流露出担心人多势众的表情，但又立即端正严肃地进入轿内。相比之下，李经方则面色明显衰老，因其曾在日本任职两年，故登陆后表现比其父亲要镇静许多。他面露笑容，频繁向围观人群挥手致意。
3时，中日双方第一次议和会议在春帆楼开始。中方出席人员为：头等全权大臣李鸿章，参议官李经方，参赞官罗丰禄、伍廷芳、马建忠，日文翻译官卢永铭、罗庚龄。日方出席人员为：全权办理大臣伊藤博文、陆奥宗光，内阁书记馆长伊东已代治，外务省书记官井上胜之助，外务大臣秘书官中田敬义，外务省翻译官陆奥广吉、原陈政。
会场陈设简单，一张长方形大桌，上罩淡黄色桌布，桌子周围摆着十多把靠背椅。考虑到李鸿章已年逾七旬，日方在李的座位旁摆了一个精美的陶瓷痰盂。
谈判之前，伊藤博文宣布了四条规定：一是除谈判人员外，无论何人有何事，一概不得进入会场;二是各报的报道必须经过新闻检查后方可付印;三是除官厅警卫人员外，任何人不得携带武器;四是各旅馆的旅客出入，均必须接受官厅检查。此外，伊藤博文还特别宣布：清国议和专使的密码电报均可拍发，公私函犊概不检查。由于清政府的密码之前已经被日本人破译，李鸿章与清廷在之后的往来电文，日方一览无余。这也直接导致清政府在谈判桌上处处被动。而这一点，清政府直到谈判结束也没有意识到。
双方首先寒暄了一些诸如旅途辛苦、接待是否满意等无关紧要的话，然后互相审阅对方的全权资格。李鸿章将随身所带的黄绸包袱解开，从绘有黄龙的筒中取出全权证书正文本，连同英译本亲手交给伊藤博文。伊藤也将天皇的委任证书正文及英译本交给李鸿章。双方在翻译的帮助下互相审阅。随后，李鸿章拿出了一份用汉、英两种文字写成的要求停战的备忘录，由罗丰禄宣读，提出：停战一事，是议和的“第一要义”。
下午4时15分，第一次会谈结束，时长75分钟。
当晚，李鸿章回船后，向国内电告了首次会谈情况，表示日方在停战问题上“意似游移”。
李鸿章：“只有听从阁下意见。但条件如此苛刻，实在难办。”
伊藤博文：“阁下认为苛刻，是因为我们各自意见不同，那我只有表示遗憾了。”
3月21日上午10时，中方使团登岸，住到引接寺内。
下午2时30分，第二次谈判举行。双方围绕停战问题展开辩论。
李鸿章听后大惊失色，连呼“太苛刻了，太苛刻了”。大沽、天津等乃京畿要地，如让日本人占领，那北京将岌岌可危。他勉强稳住情绪，问：“大沽、天津我国驻有很多军队，日军占领此地，我们的军队送到哪儿去？”
伊藤答：“那还用说，当然送往贵国认为合适的地方。”
李鸿章又问：“天津除有驻军外，还有众多官署。如果你们占领了，各官署能否照原样保护？”
伊藤不耐烦地回答：“这些细节，可另行商议。”
李鸿章：“这件事关系重大，请允许我方作充分考虑后再答复。”
伊藤：“多少天？”
李鸿章：“一个礼拜后？”
伊藤：“太久。”
李鸿章：“4天后答复如何？”
伊藤：“越快越好，我的意思是限3天内答复。”
李鸿章：“只有听从阁下意见。但条件如此苛刻，实在难办。”
伊藤：“阁下认为苛刻，是因为我们各自意见不同，那我只有表示遗憾了。”
下午4时20分，会谈结束。双方各自离席。
当晚，李鸿章向总理衙门电告了日本的停战条件。同时，他也给在天津的家眷发了封密电，告知：“不允停战，家眷速行。”
李鸿章的电文送达北京。光绪见了大惊失色，立即求见慈禧太后。慈禧以生病为由，没有面见。于是光绪只好命军机大臣孙毓汶、徐用仪前往各国驻华使馆商议办法。各方使馆一致认为应先了解日方的议和条款，再作打算。清政府也怕再僵持下去影响和谈，便电告李鸿章将日方停战条件“暂置勿论，向日索和议之条款”。 这份电报于23日下午6时35分发到马关电报局，但却被日方扣押至24日中午才送到李鸿章手中。此时，距第三轮谈判开始仅剩不到3个小时了。
李鸿章渐渐苏醒过来，他嘱咐随员将换下的血衣保存下来，不要浣洗。面对袍服上的斑斑血迹，他不禁长叹：“此血可以报国矣。”
3月24日下午3时，第三轮谈判在春帆楼继续进行。
李鸿章首先表达了先议和后停战的意思，正中伊藤下怀。伊藤看了日方的复文后，用日语与陆奥宗光商量了很长时间，又再次对复文的英文本、汉文本看了一遍，然后问李鸿章：“停战谈判，中堂是否打算搁起不提？”
李鸿章答道：“暂且搁起，我来时专为议和起见。”
谈判快结束时，伊藤有意无意地突然提起了台湾问题：“我军已向台湾前进……台湾究竟住有何等人民？”
李鸿章听后面露惊愕。他深知日本素有侵占台湾的想法，便想用英国向日方施压，“贵国若占领台湾，英国将不能置之不理”。
不料伊藤不为所动：“英国现局外中立，没有任何干涉的理由。”
李鸿章：“英国虽然中立，但台湾与她自身利害攸关。”
伊藤边笑边说：“利害攸关的不是英国，而是你们吧。”
李鸿章：“不是，因为台湾接近香港。”
伊藤不耐烦地答道：“不只是台湾，你们国家版图内任何部分要想割让，其他国家都无权干涉。”
下午4时15分，谈判结束。双方约定次日上午10时会晤，开始讲和谈判。李鸿章神情疲惫地走出春帆楼，坐上蓝色“驾笼”小轿，返回驿馆引接寺。其他代表团成员乘坐人力车在后跟随。
从春帆楼经阿弥陀寺至外滨町的道路两旁人山人海，大家都争看赫赫有名的李鸿章。日本警察沿途设岗，严密警戒。当小轿转过外滨町，距引接寺所在地的山坡脚下不足60米时，忽然从胡同中冲出一人，在距李鸿章的轿子不足2米时，他举手枪向轿中射击，李应声倒在轿内。随员们急忙上前探视他的受伤情况。李受枪击时，戴着眼镜，眼镜稍低。子弹穿过左边镜片，击中李鸿章左面颊，血流不止。破碎的镜片落在李的衣襟和轿子内。
轿子抬至驿馆时，李鸿章因流血过多已昏厥过去。众人急忙将他抬进卧室，两名随行医官当即赶来，为李鸿章止血裹伤。不多时，日本医生也闻讯赶到，与中国医官共商抢救之策。
众随员有的茫然无措地肃立于李鸿章卧榻前，有的向医生探问李鸿章有无性命之忧，有的为抢救李鸿章里外张罗，忙个不停。一时间，驿馆内的气氛十分紧张。
良久，李鸿章渐渐苏醒过来，他嘱咐随员将换下的血衣保存下来，不要浣洗。面对袍服上的斑斑血迹，他不禁长叹：“此血可以报国矣。”当晚，他向国内报告了自己被刺杀的经过，并表示谈判可能因此受到影响。
刺杀李鸿章的凶手名叫小山丰太郎，又名小山六之助，1869年生，是日本浪人社团神刀馆的会员，刺杀当日就被日本警察捉住。
实际上，小山丰太郎的行为，并非如他所说是自发的，而是一场有策划有预谋的刺杀行动。
甲午战争中，日军在海陆两路战场上的胜利，刺激了日本军界和政界一些狂人和野心家。以日本大本营首席参谋官、“征清都督府”总参谋长川上操六，海军军令部部长桦山资纪等为代表的人，都希望战争继续，反对本国政府与中国议和。
中日议和谈判开始后，川上操六秘密会见了日本秘密社团玄洋社头目之一平冈浩太郎，向他表明了反对停战的态度，希望借助黑社会的力量破坏谈判，使议和失败。平冈浩太郎认为要使两国谈判破产，必须干掉李鸿章。这个主意马上得到了川上操六的高度认同。平冈于是便派人物色了小山丰太郎，让他充当杀手，伺机刺杀李鸿章。
日本外相陆奥宗光向伊藤博文提出：“此时，由我无条件允许他（李鸿章）所一再恳求之休战，较为得计。”
李鸿章面露喜悦神情：“本人负伤未愈，不能躬赴会所商议，然就病榻谈判，随时皆可。”
李鸿章被刺的消息一传出，立即在国际上引发强烈谴责。3月25日，德国、美国、英国公使先后前往日本外务省表明各自立场。德国公使认为：“关于李鸿章之事件，无疑已在欧洲惹起对日本的恶感。”英国公使称：“此次事件甚为可叹，给欧洲恶感甚大。”美国公使也认为：“欧美对此抱有甚大恶感。”26日晨，日本驻德国青木公使给陆奥宗光发电报称：“整个欧洲对这一野蛮暴行感到愤慨，并以轻蔑的眼光看待我们表面的文明。”
鉴于李鸿章被刺在国际上引起了各国对中国的普遍同情，日本外相陆奥宗光当夜往见伊藤博文，提出：“此时，由我无条件允许他所一再恳求之休战，较为得计。”伊藤对此完全赞同。他立即致电在广岛的内阁成员，征询意见。
在广岛的多数阁员联名电说：“目下实行休战，对我国不利，请再加考虑。”26日，伊藤博文来到广岛，召开有内阁重要成员及军政界元老参加的重臣会议。会上，伊藤强调指出了如果不停战将会造成的危害性。经过讨论，就停战取得一致意见，并报明治天皇裁可。27日夜，他将停战决定及主要条件电告在马关的陆奥宗光。
伊藤博文对李经方进行恫吓：“若谈判破裂，我一声令下，六七十艘运输船搭载大军开赴战地，北京安危就难说了。”
总理衙门复电“让北地以海城为止，赔款以一万万为止。”
4月1日上午10时，第四次会谈在春帆楼举行。双方主要围绕“是日方提一条、商讨一条还是日方提出全部议和条款再商定”进行争论。
陆奥宗光表示，可以先行提出全部条款，但要求中方必须在三日内答复。李经方表示，必须先提出全部条款主张，但对三日答复的意见则不置可否。日方最后同意在限期答复的前提下，将条约内容全部提出后，再逐条逐项依次议定。11时45分，会谈结束。
李鸿章听后，吓出一身冷汗，立即请美国顾问科士达来商量。按照科士达的建议，当日晚分两次将合约底稿内容电告总理衙门。
4月3日晚，电文到达北京。军机处次日上奏光绪帝。朝中大臣翁同坚决反对割让台湾，礼亲王世铎、庆亲王奕对割台不以为然，双方争论不休。军机大臣们于是一同到当时卧病在床、主管总理衙门的恭亲王奕府中商讨对策。奕也没有什么好的办法。会商没有取得任何进展。
几乎就在军机大臣们一筹莫展的同时，陆奥宗光向驻俄公使、驻美公使、驻英公使、驻法公使等发出将媾和条件秘密提示给各国政府的训令。
同日，日本外务次官林董先后约见英、俄、法、美等国驻该国公使，向他们通报了日本的媾和条件。次日，又秘密地通知了德国公使。显然，日本在防止中国争取列强支持方面，又走在了前面。
4月5日，日方规定的最后期限已到，但清政府却依旧没有商讨出任何结果。不得已，李鸿章派伍廷芳向中田秘书官送交对日方和约底稿的答复说帖。说帖内容分朝鲜自主、让地、军费、通商权利四部分。除了承认朝鲜独立外，对其他三部分都提出了长篇驳辩。
由于中方的驳辩有理有据，陆奥宗光阅后认为说帖“笔意精到，仔细周详，将其所欲言者详尽地说了出来，不失为一篇文章”。伊藤主张彻底反驳。陆奥则认为：“论驳之端不可开，与其空论，不如在事实面前使他们就范。”
4月6日，伊藤派秘书官中田向李鸿章面交了日方对中方说帖的反驳照会：“或全案、或按条，是否应诺，予以明确答复。”8日下午，伊藤派人请李经方到其住处梅坊谈话，当面质问李经方：“我们一周前就提出约案，为什么中方至今还没有明确答复？”并对李进行恫吓，“若谈判破裂，我一声令下，六七十艘运输船搭载大军开赴战地，北京安危就难说了。”
李鸿章再次向总理衙门发电请示，提议允许割让辽南四厅州县及澎湖列岛，赔款一万万两。总理衙门复电：“让北地以海城为止，赔款以一万万为止。”以此为依据，李鸿章草拟了和约修正案并送交日方。
伊藤博文：“阁下对此备忘录，只有答应与不答应两个选择。”
李鸿章：“是否对此备忘录不许再进行讨论分辩？”
伊藤博文：“尽管分辩，但不能减少。”
4月10日下午4时15分，中日在春帆楼举行第五次谈判。
李鸿章伤愈，亲自参加了会议。当日，他身着白色服装，配戴眼镜，受伤处贴着一小片膏药。日本方面，陆奥宗光因病缺席。
日方首先将有关条约修正案的再修正案交给中方。较之前款，割地方面有所缩小，到海城为止;赔款改成2亿两，分7年付清;取消了北京、湘潭、梧州三地的开放。
伊藤一上来就提出赤裸裸的威胁：“阁下对此备忘录，只有答应与不答应两个选择。”
李鸿章：“是否对此备忘录不许再进行讨论分辩？”
伊藤：“尽管分辩，但不能减少。”
6时30分，谈判结束。李鸿章与伊藤博文握手告别时，再次请求将赔款大减。
伊藤笑着摇头：“不能再减了。”
当晚10时，李鸿章将日方再修正案和谈判情形电告总理衙门，请旨定夺。
次日，伊藤博文致函李鸿章，声明昨日递交的日方再修正案为最终条款，中国或允或否，请于4日内答复。
4月12日，李鸿章复函伊藤，请求再进行一次会晤。13日，伊藤拒绝了中方请求，再次威逼中国必须在规定期限内作出明确答复。李鸿章将伊藤博文复函全文转电总理衙门，认为割台一事已经无可商量。此电发出后，他又派伍廷芳到伊藤处探听情况。伊藤吓唬伍廷芳：“若再改约款，故意迟延，即照停战款内和议决裂，此约中止。”
14日，李鸿章再次紧急致电总理衙门，认为如再不定约，战争又将爆发。清政府接电后，经过商量，遂电复李鸿章“如竟无可商改，即遵前旨与之定约”。
李鸿章自言自语道：“我解脱了痛苦。”
伊藤则洋洋得意地说：“大功告成。”
李说：“恳请阁下多少给以让步。如不能应允五千万两，至少希望减少两千万两。”
伊藤：“我方已充分降低条件，今日些许之减少亦不可能。”
李：“赔款既不肯减，但希对土地割让能多少有所让步。”
伊藤：“两件皆不能减，屡次言明，此为我方最后条件，丝毫不能让步。”
最后，双方在商议割让台湾具体事宜时，日方提出“一个月内办理完毕台湾的交接”。李鸿章说：“一个月太过仓促。贵国何必着急，台湾已是口中之物。”伊藤哄笑一番后说：“还没有咽下去，现在饿得很。”这次谈判于当日晚7时30分才结束。
4月17日上午10时，中日双方在春帆楼签订《马关条约》。
双方寒暄一番后，随员将有关条约之文件摆在桌上。因为之前日方伊东书记官与中国参赞官会见时，已经仔细查阅了文件。现场没有再读，双方直接在文件上盖印。上午11时40分，签订仪式结束。伊藤博文打开准备多时的香槟，祝李鸿章健康。李鸿章举杯答礼，自言自语道：“我解脱了痛苦。”伊藤则洋洋得意地说：“大功告成。”
4月18日，李鸿章等人从马关登船回国。