无休止的争吵使小沃森陷入了深深的痛苦之中。一方面他爱父亲，不忍心让年老的父亲大动肝火；可另一方面，他又不能坐视IBM落后于时代的潮流。
作为执行副总裁，小沃森已基本全面掌管了IBM。但是有很多事情，他仍需向老沃森请示。毕竟，父亲是公司的总裁。
而老沃森则把大部分精力放在了IBM国际贸易公司上，国内方面的事务多由菲利普斯做中转传达。
可是，经常会遇到这样的情况，每当小沃森有事向菲利普斯请示时，菲利普斯总给予极大的肯定。但是请示了父亲后，却总是被否定。
小沃森气坏了，有一天当他得知自己的请求再次被否决后，他怒不可遏地冲进了父亲的办公室。
“还是请你的秘书来当总裁好了，每次我向他请示他总是同意，可是当他征求了您的意见后，就推翻了他的决定。这让我无法工作。”
老沃森一反过去针锋相对的态度，冲他说：“你先到接待室等一会儿。”
然后他把老菲利普斯叫到他的办公室，两个人关上门嘀咕了起来。
小沃森感到很奇怪，这不是父亲的作风啊，他们在嘀咕什么呢？总不会真的是让菲利普斯当总裁吧。
过了一会儿，他们打开了门，父亲带着一种古怪的神情对小沃森说：“我们决定了，让你当总裁。”
小沃森呆住了，他本来以为又要大吵一通的，他也想过会有那么一天，他坐上总裁的位置，但是没想到会是在这种情况下，也没想到会是这么快。
“怎么了？难道这不是你梦寐以求的吗？”父亲问。
小沃森没有感到一丝自豪和愉快，相反，他感到非常难受，他觉得，一定是自己伤了父亲的心，才使他这么做的。
老沃森也同样很难过，他连个招呼也没打，就旅行去了。他临走，把小沃森接任总裁的事，安排给了菲利普斯。
1952年，38岁的小沃森正式升任IBM总裁。
在升任总裁的前一天，他给父亲写了一封充满感情的信：
亲爱的爸爸：
我非常感谢你为我所做的一切。我相信这种做法是正确的，它是解决我们之间问题的最有效的途径。您可以借此休息一下，颐养天年。当然您还肩负着我们公司的重大事项的决策，我希望您能继续担任董事长职务。
我们有着共同的目标，那就是使IBM永往直前。IBM是您的事业，也是我的，即使没有高工资和股份，我也会一样热爱IBM，就像我永远热爱您一样。
我一直盼望着有一天能当上IBM的总裁，就像您希望的一样。但是如果得不到您的满意，那这又有什么意义呢？
世界上没有一个儿子像我这样崇拜自己的父亲。
爱您的汤姆
在小沃森任总裁后的半年里，IBM的年利润突破了2.5亿美元，比6年前小沃森刚回IBM的时候翻了一倍还多。
当上了总裁的小沃森更忙了，他像是一匹脱缰的野马，开始纵横驰骋在电子计算机行业当中。
尽管小沃森终于登上了总裁的宝座，但是他并没有以一种胜利者的姿态出现，而是以一种温情脉脉的方式安慰了父亲。真诚、坦率，尊重每一个人，这是小沃森人格中的一个闪亮点。他以这样的为人之道赢得了对手的理解和支持。