1900年，卡耐基出版了一本著作《财富的福音》，在这本书中，他系统地叙述了自己关于慈善事业的思想。
西方国家的慈善事业是指通过金钱的捐助和其他服务来提升人类的福祉。卡耐基以他的著作《财富的福音》和身体力行使他成为推动西方慈善事业理念的代言人。他在书中强调先富起来的人应严肃地看待穷人的处境，要不惜代价让穷人能够自给自足，并培养出他们的自信心。卡耐基警告百万富翁们说：对金钱执迷的人，是品格最卑贱的人，一个人如果把追求金钱当作一生的目标，有一天自己也一定会堕落下去。因此，百万富翁们应把他们的金钱施舍给“合适的人”，也就是有抱负的穷人，他认为图书馆、公园、学校和体育馆是适合慈善事业的有意义项目。他在1891年就捐献了一所音乐厅给纽约，从这时候开始，他就向各地捐赠集会堂、音乐厅、美术馆、博物馆、图书馆。
卡耐基捐给纽约的音乐厅位于纽约市第7大道第57桥，由塔特希尔设计，1891年5月开幕，开幕式上，由俄国名作曲家柴可夫斯基指挥演奏自己的作品。这座音乐厅十分著名，多年来一直是纽约交响乐团演奏场地及世界最佳音乐家在美国初次演出的场地。1898年，正式改名为卡耐基音乐厅。
为了表彰卡耐基在工业上的成就和他的慈善事业，宾州政府于1894年将匹兹堡市区西南19公里的两个市镇查提尔和曼斯菲耳合并为一个市，命名为卡耐基市，该市以炼钢为主，附近有煤矿。
1895年，卡耐基出钱，为匹兹堡市民建立了一所科学、艺术和音乐中心，该中心的名称叫做卡耐基匹兹堡学会，位于匹兹堡奥克兰区福布斯大道旁边，与匹兹堡大学隔街相望，占地13英亩，包括自然历史博物馆、艺术博物馆、音乐和演讲厅和匹兹堡卡耐基图书馆。
现在这个中心已十分丰富，参观者络绎不绝。
其中的自然历史博物馆以收集侏罗纪恐龙化石而著名，包含卡耐基恐龙（一种最早出土的大型恐龙）。几个展览项目中共有600万项标本，包括低等化石、高等化石、植物、昆虫、无脊椎动物、两栖动物、爬虫类、鸟类、哺乳类和人类。人类馆中还包括艺术品、钱币和邮票展出。
其中的艺术博物馆收藏15世纪至今的名画及雕塑大师作品，以法国印象派、后印象派及当代画家的作品最多，种类包括素描、水彩、版画、装饰品等，特别展览室展出亚述、波斯、迦勒底、罗马、法国及其他古文化遗物。自1896年开始，每隔三年，在该馆举办一次当代绘画和雕塑特展。
其中的音乐厅有2000个席次，装设有世上体积最大、构造最精巧的风琴。正厅宽敞，装饰着色彩华丽的地中海大理石。
匹兹堡卡耐基中心成立宗旨为利用现有设备增加中心的经费，到1960年代末期，该会会员人数已超过12000名。
引退后的第一笔捐赠
卡耐基在《财富的福音》一书中写道：“我不再努力争取更多的财富。”这句话不是虚伪的粉饰之词，而是出自他内心深处的真话。1900年，这部著作问世时，他的公司每年收入高达4000万美元，根据发展情势，日后的收入还会继续增加，卡耐基搞了一辈子钢铁，驾轻就熟，赚钱易如反掌，可是池为了实现自己的心愿，毅然决然金盆洗手，从此不再做生意，于1901年以5亿美元的价格把卡耐基钢铁公司卖给金融大王摩根。
摩根原有一家联邦钢铁公司，与卡耐基公司合并后，成为美国第一家超过10亿美元的公司，登记资本额为14亿美元。第二年就盈利6000万美元。但卡耐基对摩根毫不羡慕，因为他现在从事一个不同性质的工作，即把自己的财富有系统地捐献给他人。
他要分配财产的第一个对象，就是卡耐基炼钢厂的员工们。他写了下面一封信表达自己的心愿：
“1901年3月12日，于纽约市。
我已卖掉了自己的产业，即将从工商界引退。当此之际，我愿意从我的财产中拿出400万元的债券，捐献给那些对我事业成功有很大帮助的劳工们，以表达内心的谢意。也就是利用这笔钱救济那些因意外事故而生活艰困的，或已进入晚年需要帮助的人，我要用这笔钱作为资助他们的基金。
同时我再提供100万元债券，以它的利息用来维护我为劳工所建的图书馆和娱乐厅。”
他把这笔基金命名为“安德鲁·卡耐基基金”，由公司职员推选的管理委员会来运作。这时候，露西熔矿炉的职工为了答谢他的好意，赠送了一座刻有感谢铭的大银盘给他。
他做了这番安排以后，就辞别了全厂员工，搭船到欧洲去旅行了，临别之际，心中不无寂寞之感。他在欧洲游历数月后，又振作起精神，回到纽约，着手一种全新的工作——慈善事业。
捐助图书馆和学校
他回纽约不久，就认识了纽约公共图书馆馆长毕灵博士，毕灵对他诉说目前图书馆的缺乏，主要在于建设经费的不足，因此他便答应捐赠625万美元，在纽约市建立68处图书馆的分馆。首先在布鲁克林区建立了20座图书馆。这个图书馆的建设事业持续了16年，总共设立了3500座图书馆，花费了1200万美元。这些卡耐基图书馆由于数量很多，受惠者遍布于社会各个阶层，如今美国有许多地位相当高的人，当别人问他是什么学校毕业时，他一定会说：“我是卡耐基图书馆毕业的。”
卡耐基捐建纽约市图书馆不久，又捐赠了一座图书馆和公民馆，给他来美国初次居住的阿利根林市。当时哈里逊总统曾专程从华盛顿前来主持开馆典礼。
后来匹兹堡市也希望有一座图书馆，他也一样很乐意地捐赠了。上文说过，早在1895年，他就出资在匹兹堡组建了一个卡耐基学会，内部包括博物馆、艺术馆、音乐厅等，其实是一所科学、艺术中心。他新赠送的匹兹堡卡耐基图书馆也附属于这个中心，现已有藏书1100万册以上。
卡耐基除捐给匹兹堡一个规模庞大的科学、艺术、音乐中心外，还于1900年捐建了一所工业学校和一所女子学校，这两所学校后来合并为卡耐基工业大学，于1912年开始招生。这是一所除了工科外，还包括艺术、一般教育、图书馆学及女子大学五个部门的综合大学。工科部门还附属设置了煤炭研究所及金属研究所。
1913年，卡耐基与另一位实业家梅隆联合创设梅隆研究中心，这是一个非营利机构，奖励基础和应用科学的研究，并与工业界合作进行研究计划。
卡耐基花费在匹兹堡的捐赠共计2400万美元。
卡耐基工业大学至今还存在。1967年7月1日，它与梅隆研究中心合并，更名为卡耐基梅隆大学。这所大学设有大学部和研究所。大学部可分六部分：艺术学院、卡耐基理工学院、梅隆研究中心、玛格丽特莫里森卡耐基女子学院、工业管理研究所、人文社会科学院。该校的戏剧系是全美历史最久的戏剧院校，原是卡耐基工业大学的一部分，校系培育出许多杰出艺人，如汤普森、肯尼迪和哥辛。
此外，卡耐基在英、美其他地区，也创设了各种学校和教育机构。像这种用于教育设施的经费，到1940年约有9000万美元之巨，这是卡耐基社会事业中最大的一个部门。
例如，他建立了卡耐基联合王国信托基金，协助全英国郡立图书馆的设立，到1940年代，英国的每一部门都能享受到图书馆的服务。
创立基金会
卡耐基的另一项重大贡献是创立基金会。他是现代基金会概念的主要创建者。他首先在《财富的福音》（1900年）中提出了基金会的概念，并且于1902年带头设立了第一个重要的基金会——华盛顿卡耐基研究中心。