卡内基的炼铁事业也曾遭受许多困难。事业刚起步的时候最令他们困扰的问题是，他们一直弄不清楚每一个制造过程究竟要花多少经费。向同业们打听，也问不出个所以然来，这似乎是一个很盲目的买卖，他们像无头苍蝇似的乱撞。从原料的购入到产品的卖出，完全处于混乱状态，直到年底清点存库和核对账簿的时候才知道盈亏。卡内基认为没有科学的管理方法是不行的。他开始大力整顿，工厂逐渐改变了那种不周密的管理方式，贯彻了各层次职责分明的高效率概念，由此大大提高了生产力。卡内基认为，对制造业来说，成功的要素是要建立一个完整的计算系统，并严格遵守，而且也要让每一位员工意识到他对金钱和资材应负的职责。
由于他们对计算制度的改进，终于发现把大量的铁材一次加热会造成很大的浪费。这项发现应该归功于克鲁曼的一位远亲布伦。有一天，他拿出了定期的详细调查报告，这份他每天晚上自动详细调查、观察记录的完美报告使卡内基等人大吃一惊。由于他的工作勤奋，后来也成为董事之一，并且成了一个百万富翁，他能够拥有这份财富，绝非偶然。
1862年前后，宾州发现了油田，引起了世人的注目。卡内基的朋友威廉·柯尔曼先生对探勘油田极为热衷，卡内基禁不住他的一再邀请，被半强迫地带到油田地带去。那是一次非常愉快的旅行，从四面八方拥向油田地带的人络绎不绝，以致连能歇脚的旅店都找不到。大多数人一来到此地就很快地搭起一间简陋的小屋，并且买进很多日用品，一副要长期驻守下去的架势。他们多半是中产阶级，本身也有相当的储蓄，对于这种寻宝行动，他们多少带点猎奇的心理。
这里每一个地方都听得见开朗的笑声，人们好像是在享受大规模的野餐会一样，每个人脸上都充满了欢乐的喜悦，好像已经进入了宝山，只要伸手就可以获得珠宝似的。卡内基把目光从这群欢乐的人群中移开，转向了河川的方向，他发现有两个男人站在岸上，不断地踩踏一种钻油井的踏板。在他们旁边的油塔上面插着一面旗子，旗上写着：“向地狱去，向中国去，不管到哪里！”他们不断地拼命往下挖，就是挖到地狱也好，挖穿地球直达背面的中国也好。真是疯狂至极，卡内基心想。
说起来，美国人的适应性在这个地区表露得最为明显，原先是一片混乱，没过多久就变得井然有序了。后来当他们再度访问这个地区时，当地还派出一个乐队来欢迎他们，而这支乐队就是散居在河岸的新居民所组成的。那个曾经荒凉的小部落逐渐发展成为有数千人口的乡镇。当时运输石油都是从油井直接注入平底船内，由于船底会漏，所以运到匹兹堡后，往往会流失掉三分之一，使得河川上游的水潭和阿勒格尼河的水面都布满了一层厚厚的石油。在以前石油还很稀少的时代，印第安人把它装在瓶子里，以一瓶一美元的高价出售。当时世人相传这种瓶装的东西对风湿病有治疗效果。
当时最被看好的油田是在史托利农场，卡内基等人以4万美元的价格买下了它。柯尔曼先生马上提议在油井旁边建造能够容纳10万桶石油的贮油池，据他预料，不久后那些石油就会停止喷出，到时候他们就可以把贮油池内的石油拿出来卖，说不定一桶能卖上10美元。
但是没有想到，地底下这个大自然的贮藏池却是无限量的，虽然每天生产数千桶之多，仍不见有枯竭的迹象，因此他们损失了大量的石油，最后不得不半途放弃了建造贮油池的计划。不过他们对油田的投资却获得了极大的成功，第一年就有100万美元的净利，当这块油田被评定有500万美元的价值时，卡内基把油田卖掉了。当初仅仅4万美元的投资，竟带来100倍以上的利益。而且这项意外的利益来得恰是时候，他们正在为匹兹堡建立新厂而筹集资本，这次赚到的钱很快就有了它的去处。接着他们又在俄亥俄州开凿了另一处油田，它所出产的原油和一般的不同，因而他们利用它来制造润滑油。
随着卡内基各方面投资事业的逐渐扩大，他必须花费较多的时间和精力来集中管理，因此他决定辞去宾州铁路公司的职位，以便全心全意经营自己的事业。
在此之前，董事长汤姆逊有意推荐他为副总经理，卡内基婉言拒绝了他这番好意，因为当时他心中正构建一个新的目标：一定要成为大富豪。而铁路公司的薪水再怎么优厚，也无法实现这个愿望。此外，卡内基还觉得这样瞒着公司偷偷地经营自己的事业，实在有点过意不去，因此才决定要光明正大地闯出自己的天地。
卡内基就把自己的想法坦率地告诉了汤姆逊，并请求辞职。没想到汤姆逊不但答应了他的请求，还诚挚地祝福他前途无量。
1865年3月28日，卡内基辞去了铁路公司的职位。当天铁路公司的员工赠送卡内基一块金表作为纪念，卡内基非常感动，他一直妥善地保存着这块金表，以及汤姆逊先生寄给他的亲笔信，这些都是他终生的纪念。
从此以后，卡内基就不再是为薪水而工作了，他认为遵从他人命令工作的人，只能在极为狭窄的范围内活动。如果想要发挥自己的天赋和才能，首先必须让自身自由、独立起来，无论过程是如何艰难困苦。
获得自由的卡内基一心要大展拳脚，但在此之前，他想先去欧洲旅行一趟。这次旅行不仅是给他自己辛勤工作多年的一个慰劳，同时也是全身心开创自己事业的一个开始，想要在这个世界成就一番大事，那首先就要了解这个世界。卡内基的这次旅行，有可能是他的事业走向成功的开始。
由于当时的一股石油热，财经界人士大为轰动，股票像发射出去的火箭急速上升。一个星期天，卡内基和友人万迪瓦特躺在草地上交谈，卡内基问：“如果你现在赚到3000美元，是否愿意和我到欧洲去旅行？”
“你这个问题就好像在问我鸭子会不会游泳一样。”他是在告诉卡内基：你说的根本是废话。
于是卡内基立刻让他去购买热门的石油股票，这使他一下子就赚到了3000美元，因此他们的旅行计划可以实施了。他们又去邀请了当时已经是大富翁的亨利·菲普斯，1867年，卡内基和亨利、万迪瓦特一起再度回到英国。他们不但走遍了苏格兰，同时还遨游了整个欧洲大陆。他们访问了欧洲各国的首都，攀登了每一座高峰，他们在山顶上过夜，背着登山袋漫步或徜徉在草原上。他们还在伦敦、罗马的剧场欣赏了优美的管弦乐演奏及歌剧。一路上充满了新奇、美丽的见闻，最后他们在意大利的维苏威火山上结束了这次的旅行。在那里，他们决定将来要去环游世界。
这次的欧洲之旅使每个人都大有收获。过去卡内基对于绘画、雕刻一无所知，经过这次旅行后，卡内基已经学会了如何去欣赏那些作品。卡内基对音乐的鉴赏能力也因为这次旅行而有所提高。这次旅行改变了他的审美观念，提升了他的品位。
而这次旅行还有一个令卡内基意想不到的收获，那就是他带回了堂兄乔治。当时乔治正在格拉斯哥大学念书，他希望到卡内基的公司去制造焦炭。在此之前，美国一般工厂都把能制造出焦炭的煤炭层当做废物丢进河里。乔治到了卡内基的公司后，就把这种热量极高的焦炭做成燃料。在美国，这个由卡内基的公司开创的新型燃料，可是当时的一大创举。这项应用又一次使卡内基名声大噪。
事业的扩展
纽约在美国的地位就像英国的伦敦一样，全国所有首要企业的总部都设在那里。随着卡内基的事业一再扩展，事业的重心也逐步向纽约转移，因此，他必须经常到纽约去。那时候，弟弟汤姆刚和柯尔曼的女儿结婚，因此卡内基把位于匹兹堡郊外的房子让给了这对儿新婚夫妇，同时把匹兹堡的工厂也交给汤姆管理。卡内基带着母亲到了纽约。母亲对于住惯了的家恋恋不舍，但是为了儿子的事业，她还是心甘情愿地跟随卡内基到了这个陌生的城市。卡内基订下了圣尼古拉斯旅馆里的长期租约。由于工作的需要，他经常要乘坐列车频繁往来于匹兹堡和纽约之间。同时，他在美国中西部地区的铁桥生意的订单也越来越多。
卡内基到纽约来首次接办的大工程，是要在科冈地区架设全长700米的密西西比河铁桥，这个工程在技术方面十分成功。但是由于当时美国经济情况不佳，所以卡内基没有寄予太大的希望，所幸最后并没有亏损，反而还赚了一点小利润。
由于科冈铁桥的建造获得各方的佳评，接着又有人计划请他们在圣路易市的密西西比河上架桥。但是这家公司没有钱，因而向卡内基提出了一个棘手的要求，希望卡内基能够募集建造的基金。1869年春天，卡内基到伦敦拜访在旅行中所结识的银行家朱尼厄斯·摩根先生，卡内基向他说明整个计划之后，摩根就将这笔卡内基需要的经费全部借给他。
那时的卡内基已经有了足够的积蓄，因此也渐渐想做些对社会有贡献的事，他曾在日记上写下了他的目标，他以后的生活信条也是从这里慢慢萌芽的。
我现在一年有3万美元的收入，两年之后，将会年收入5万美元。但我不想赚得更多，也不再努力去增加更多的财富。
如果将来我有5万美元以上的财富，那超过的部分我要把它用于社会福利事业，除了对别人有益的事之外，绝不再做其他的事情。
到时候我要前往牛津深造，发奋读书。同时花3年的时间去结识一些有修养的人，然后我要搬到伦敦，专心去经营报纸和杂志。我要尽力提倡公共利益，尤其对改善穷人的生活及教育方面，要尽力呼吁政府或社会给予援助。
人们总是敬爱或崇拜偶像，但是那些拼命敛财的人，最不足称道，因为世界上，再也没有比崇拜金钱更会使人品败坏的事了。
到了35岁，我要从实业界引退，以有计划的读书来消磨午后的时光。
由于受到南北战争的刺激，政府终于通过了建设大陆横贯铁路的法案。铁路需要将大西洋和太平洋两岸连接起来。因为国土连接在一起，才能促进全国人民的交流和经济的发展。获得消息后，卡内基写了一封信给斯科特先生，表示他们应该取得西岸加州的铁路卧铺车制造权。斯科特先生立刻回信，信中说：“你真是不错过任何机会的人。”
卡内基得到斯科特先生的支持，就马上开始向联合太平洋铁路公司推销卧铺车订购的工作。但是此时，一家同样制造卧铺车的普尔曼公司的介入，阻碍了卡内基的推销工作。