父亲死后，小沃森成了IBM最主要的领导人，他所接手的，除了IBM的辉煌业绩外，还有一大堆弊病。
一天，一个分部经理气冲冲地来找他：“沃森先生，这简直让人没法干了。你猜，与我们争购那块修建工厂的土地的另一方是谁？是另一个分部！我真不明白，这样内讧有什么好处？争相抬价，吃亏的只能是IBM！”
小沃森听了也很生气，他找来另一个分部的经理：“这到底是怎么回事？你们怎么能这么做呢？”
“我们也不知道竞标的另一方是他们。”那个人也一肚子委屈。
小沃森意识到，这种误会是由于单一集权的管理体制造成的。公司只有他一个人说了算，各部门之间缺少沟通。
每天在他的办公室外，等着见他的经理排着长队，有的甚至要排上好几天才能见到他。
他下决心对IBM进行改组，虽然目前这种管理模式是父亲所津津乐道的。父亲在世时，对IBM的大小事务事必躬亲，但是IBM的日渐壮大，使这种小作坊式的管理方式已无法适应繁杂的工作。
小沃森找来了IBM的组织设计师布鲁恩：“我们必须对IBM进行改组，它已经使我忍无可忍了。”
“我们早该这么做了，这种管理体制与IBM的国际知名企业身份极不相称。”
“那么我们还等什么？现在就开始吧。您是工商管理硕士，在这方面是专家。请您发表一下高见吧。”
“让我们先来画一张组织图。金字塔的最项层应该是您，我们的总裁先生。您的下面最好是分成几个大部分，即由几个副总裁做金字塔的第二层。再下面的第三层才是分部经理。这样，就只有几个副总裁向您汇报工作，而您勿须听几十个人的汇报了，这样您可以省很多事，不必像现在这样忙得团团转。”
“这可太好了！还要加上一条，一些小事副总裁可以做主决定，不必事事向我汇报。不过我的问题是解决了，可是各部门之间缺乏沟通的事情如何解决呢？”
“我们可以成立一个公司管理委员会，委员会由公司的高层领导组成，定期召开例会，沟通情况。”
“公司管理委员会的成员就由我、威廉斯、拉莫特、迪克、米勒和利尔森组成。”
“另外，我们的公司还需要成立一个由专家组成的智囊团，对我们的各项决策提供参考和依据。”
“好！立刻筹备在年底前召开一个高级经理会。宣布我们的决定。”
会议如期在威廉斯堡举行，来自IBM各个岗位的大约100名左右的高级经理参加了这一会议。
会议一直开了三天，所有的人都意识到这将是IBM的一个新起点。
在宣布了改组决定后，小沃森发表了简短的讲话，他说：“同仁们，过去我们都是实干家，现在不同了，我们要学会充分调动所有人的积极性，我们要做的是‘人’的工作。我相信通过群策群力，我们一定能解决更多更难的问题。”
与会人员一致报以热烈的掌声。
会议上还明确了，衡量每个经理工作好坏的标准是他所在部门的效益。这使得每个经理都清楚地看到了自己的奋斗目标。
会议讨论持久而激烈，一些经理提出了很多很好的问题和建议。
“总裁先生们，对于智囊团和一线人员之间的矛盾我们如何调和呢？”一个经理问道。
“这个问题我们已经考虑过了，”布鲁恩接口说，“解决方案是这样的，如果一个项目未经智囊团的参谋人员签字同意，就不能最后拍板。但如果签了字，参谋人员同项目经理就风险共担。如果双方无法达成一致，也不必争来争去，问题提交给上级处理，上级会充分听取双方的意见。一旦上级做出决定，双方必须遵照执行。”
没有人对这个方案提出异议。
另外，把产品部一分为二，两个分部之间形成竞争机制。
会议结束时，几乎每个经理的职务都发生了变化。
威廉斯堡会议，是IBM改组的里程碑式会议，它明确了以分权制取代集权制，工作业绩与经济效益直接挂钩，引入竞争机制等重要原则，建立了科学的管理体制，使IBM彻底脱胎换骨。
“穷则变，变则通，通则久。”改革是企业振兴的一剂良方，一个再科学的经营策略，用久了，也会产生很多的弊病。不过改革需要领导者具有非凡的勇气，而小沃森最不缺乏的，就是勇气，所以他成功了。