通过多次与西方列强在战场上的武力厮杀，在谈判桌上的唇枪舌战，在合作中的利益纠葛，奕訢深感学会怎样与洋人打交道的重要性，于是力排众议，在咸丰年间上书请设总理衙门。总理衙门的成立，架起了中西之间沟通的一座桥梁。作为核心成员的奕訢费心经营总理衙门和总理衙门的事业。除掌握清廷外交外，总理衙门还逐渐总揽了财政、军事、教育、矿务、交通等方面的大权，成为决策与管理一切涉及洋务的机构。在咸丰帝回銮以前，总理衙门在北京已然形成了列强支持的以奕訢为首的另一个权力机构。总理衙门成员构成了奕訢的一个智囊团。军机处把持内政，总理衙门负责外交，太后垂帘初期，内政外交大权悉数落入恭亲王之手。
总理衙门在中央的成员多为一直与奕訢同呼吸、共患难的心腹。桂良、文祥与奕訢一起筹划国家自强和长治久安的策略，积极上折请办洋务和实施“自图振兴”的国策。在地方，一批在镇压太平天国运动中受奕訢重用而崛起的汉族官僚、有真知灼见的一些封疆大吏支持和欢迎图“自强”的洋务事业的开展，并很快成为这场运动的中坚力量。
他们最初准备从沙俄引进第一批武器，后来由于识破了沙俄垄断中国军事技术近代化的阴谋，及时拒绝了这批武器的购买，而将目光转向英、法、美等国，努力学习和引进他们的军事装备和技术，实施和推广了第一项近代化的练兵计划。他们还曾筹划购买第一支近代化的海军舰队——阿思本舰队。在镇压太平天国的过程中，西式舰船的优越性得到了充分的体现。奕訢、李鸿章、曾国藩等朝野上下官员惊叹之余，于同治元年初，在批准上海“借师助剿”的同时，奕訢以总理衙门的名义，致函各参战省份的巡抚、将军和总督与总税务司英国人赫德，命其议定向英国购买轮船一事。此事成为后来阿思本舰队事的发端。议定之后，由赫德致信正在英国养病的前任总税务司李泰国办理此事。
李泰国觉得这是控制日后中国近代海军的绝好机会！在英国政府的默许下，立即答应代办购舰之事，并暗地里策划聘任英国海军上校阿思本（S.Osborn）为指挥官，出任中国海军司令。同时私自按照英国海军的条规，制定章程，明文规定：该舰队在中国战场所获得的一切财物，三分之一归清廷，三分之二归该舰队队员。
奕訢等人表示坚决不能接受让外国人掌握中国的军权，与李泰国进行了多轮的谈判，最后决定主将仍由中国武官来担任，阿思本为“帮同总统”。曾国藩、李鸿章等人原本抱了很大的希望可以指挥这支舰队的，谈判的结果无疑给他们泼了一瓢冷水。他们致函总理衙门，称不能让这支舰队参加南京的行动，认为此乃“李泰国心术险诈，目前不愿中国专权，即将来不准中国人接手”。阿思本也不同意谈判后的结果，坚决要求按照出发前的英国订立的合同由阿思本自己任舰队司令，并限总理衙门在两日内给予答复，否则拒绝听命并将解散舰队。
奕訢深知军权的重要，在无路可退的情况下，坚持“中国兵权不可假手予外人”，坚决拒绝批准李泰国——阿思本合同。但清政府也为此付出了代价：整个事件中，清政府支出白银173.2万两，收回106.8万两，损失66.4万两。这次事件中，奕訢外交手腕得到了展现，以致后来曾国藩在给奕訢的回信中称：“钦佩无似”。李鸿章和曾国藩曾参与整个事件，最初曾国藩还担心由他和李鸿章出面道出此次购买舰队的弊病，恐怕会招致奕訢的盛怒，因为购买外国舰队乃“恭邸数年苦心经营之事”。但奕訢在阿思本舰队风波过后的言词间充满胜利的喜悦并言及已采纳曾、李的高见的书信，打消了两人的疑虑。曾国藩后来在给其九弟的信中称：“朝廷已成定局，从谏如流，令人感极生愧。”同时奕訢还努力设法开办了第一所以教授语言为内容的近代学校“同文馆”，并由北京向上海、广州推广。
第一股“自强”风潮就在第二次鸦片战争和镇压太平天国等多处农民起义的过程中兴起了，主要目标为“平内乱”的军事计划。后来李鸿章在给奕訢的一封牍函中丰富和发展了奕訢几年前提出的“自强”思想。李鸿章这样写道：
“天下事穷则变，变则通。中国欲自强，莫若学外国利器。欲学外国利器，则莫如学制器之器。师其法而不必尽用其人，欲觅制器之器与制器之人，则或专设一科取士，士终身悬以为富贵功名之鹄，则业可成，艺可精而才亦可集。”
李鸿章在这里其实提出了两个方面的“自强”和近代化的建议：发展国家的工业；设专科取士，搞近代化的教育和培养近代化的人才。奕訢大为赞许，并积极推动施行。
中国人最早的一次出洋考察是在同治五年（1866年）春，时任中国海关总税务司的英国人赫德向总理衙门请六个月的长假，回国结婚。同时建议中国能派出一个考察团随同他一起到西方各国转转，了解一下各国的政情风俗，以为国内发展提供参考。奕訢非常支持，当即着手办理此事：选派出洋考察人员和向两宫太后禀报。
一听说要出国，时人多有畏惧之心，纵使是同文馆已经毕业的几名外交人员，也对漂洋过海远行视若畏途。无奈，中国近代第一次出洋考察的重任竟落在了一位63岁老人的肩上。这位老人名叫斌椿，因任职总理衙门时做了几年赫德的中文教师兼办文案，对西洋事物渐渐有了兴趣，久怀出国游历开阔眼界之志。因无人愿往，奕訢正为出洋人选发愁时，斌椿“慨然愿往”可解了燃眉之急。斌椿带领的3位同文馆学生和负责照顾父亲的斌椿的儿子一行5人组成了中国最早的一批出洋考察团，他们肩负着“将所过之山川地势，风土人情，详细记载，绘图贴说，带回中国，以资印证”的重任。
110多天对10多个国家的访问可让这5位中国人开了眼界。西方近代的科学技术、物质文明和古代文化尽现于中国政府官员的眼帘。火车、轮船、电报、电梯、活字印刷、铁路隧道、蒸汽机、起重机、传真照片及一般摄影、显微镜及幻灯，大纺纱厂和兵工厂的生产情况等，使他们第一次感受到了现代科技的伟大；埃及大金字塔和古太阳神庙，欧洲博览会、芭蕾舞剧，英国的白金汉宫、大英博物馆、国家议院、监狱、报社、高等学院、植物园，法国的凡尔赛宫、拿破仑大帝的凯旋门等等，让他们体会到了在中华儒家文化以外还有着璀璨丰富的西方文明。
回国后，他们按要求将出国考察见闻以文字形式记述下来。斌椿写成《乘槎笔记》和《诗集》，考察团员张德彝著成《航海述奇》。此外，在办理外事过程中，奕訢也深深体悟到的“外国之生事与否，总视中国之能否自强为定准”的道理，这些都成为推动奕訢克服重重阻力，规划实行自强大计的巨大动力。他感到，当西方工业化潮流带动各国纷纷进入现代文明生活的时候——火车奔驰、轮船畅通、电线高架、通讯便利等等，中国人却依然沉醉于田园诗般静谧的自然经济生活，落后了！
英国人赫德和公使参赞威孚玛也在敦促中国迅速实行改革，他们提交的《局外旁观论》和《新议论略》无疑似两枚炸弹，直投向老大帝国衰朽问题的中心。
必须要改革，面对这股工业化潮流，顺之者昌、逆之者亡。奕訢的自强计划进入到大搞近代工业化、增强实力以“御外侮”的第二阶段，然而却遇到了巨大的困难。