管理实用主义
1998年12月，中兴为适应大发展形势，进行了组织机构大调整，由集权管理改为准事业部制。
一位职能部门负责人这样描述当时的管理问题：“许多本应在低层解决的事情都需要高层领导出面，使高层领导整天忙于‘救火’，难于对公司战略管理投入更多精力。另外，责、权、利不能统一的问题也越来越严重。随着公司规模的扩大，分工越来越细，大平台上部门越设越多，许多人进了‘岛心’，感受不到来自市场这个‘汪洋大海’的竞争压力，不同程度地滋生了追求稳定、安逸、大锅饭的情绪和现象，责、权、利的关系不那么紧密了，过去小公司的紧迫感、危机感越来越少。”
形势严峻，刻不容缓。1999年6月，中兴召开管理整改动员大会，号召公司员工面对严峻形势，加速整改。
从基本的组织框架来看，中兴也像多数其他企业一样经历了以集权为特征的直线型职能管理，和以分权为特征的事业部制管理。这两个阶段非常普遍地存在于大多数企业中，为什么呢？因为根据实用主义原则，适合的就是最好的。小企业规模小、人数少，好控制，所以往往采取集权式管理，效率高，灵活性强。规模大了，人数增加，从业务上讲必须分工，分工才能专业化，从个人精力上讲，必须分权，分权才能提高效率，恢复小公司的灵活性。这是一种随着企业情况变化而有所发展的实用主义的管理哲学和思维方法。
从集权到分权
在1996年到1998年之间，中兴逐步形成了早期的组织形态。
以市场部门为例，公司相继设立了市场一部（负责接待）、市场二部（负责商务）、市场三部（负责宣传和品牌）、市场四部（负责专网）、市场五部（负责国际业务）、市场六部（负责接入网的推广）、市场七部（负责联通等新兴运营商）、市场八部（负责接入网以外的新产品）。其中一、二、三部是按照专业来分工的，而四、六、八部按产品来划分，五、七部则按客户来划分。这种做法可以使中兴快速反应市场的需要。
这种从局部人手的做法，使中兴一直保持着一定的灵活性。
为了适应大规模运营的需要，从1998年起，中兴陆续将整个公司划分为相对独立的事业部，并引进矩阵式管理和团队管理，依次来将复杂的管理化整为零，同时，通过有效的评估和激励措施来构建一个学习性的组织。
1998年底，中兴实施准事业部制。整个公司被一分为八，包括四个产品事业部、三个营销事业部和一个子公司即康讯公司，另外在总部还设立有七个中心、一个办公室。
产品事业部设交换产品事业部、接人产品事业部、移动产品事业部和本部产品事业部（主要产品包括传输、电源、视讯等），负责公司各项产品的研究、开发与生产。它们是公司各产品发展的责任中心，也是公司的阶段利润中心，对该产品的市场占有率负一定责任。交换机产品事业部的总经理是此前一直担任南京研究所副所长的丁明峰，接人事业部的总经理是此前担任上海研究所所长的倪勤，移动事业部的总经理是诸为民，本部事业部的总经理是方榕。
营销事业部设第一营销事业部、第二营销事业部、第三营销事业部，它们是公司各产品事业部共同的销售、维护平台，在各特定区域或对特定的用户从事销售、维护业务。其中第一营销事业部负责国际业务和专网业务，而其他两个事业部则基本按照国内的区域划分。各事业部相对独立核算，是公司的阶段利润中心。三个事业部的总经理分别是史立荣、何士友和洪波。
康讯公司执行中兴通讯统一的技术、工艺、质量等管理规范，是中兴通讯各产品事业部共同的部件、配套件供应平台。按各产品事业部的滚动需求计划编制物料采购计划，根据产品事业部的订单组织供货。
总部主要负责制订规划和发展战略，开展基础技术和中远期技术研究，制订内部经济合同、流程、制度等规则，还负责资本运作及财务管理、品牌经营、对外事项、公共事务、重大协调等。总部设有总裁办公室、技术中心、市场中心、用户服务中心、质量企划中心、人力资源中心、财务管理中心、会计核算中心等机构。但是，与其他公司不同的是，为了避免总部职能部门在行政上的干预权过大，从而抵消事业部在市场反应方面的灵活性，中兴规定，总部职能部门的部长与事业部的部长是同一个级别，不存在行政上的上下级关系，主要通过自己的专业能力来建立与事业部的关系，换句话说，如果你没有价值，事业部也不必受制于你。
2002年初，为了配合“流程优化年”，中兴的组织结构又经历了一次大的调整。年初，公司将专网从第一营销事业部分离出来，以便“一营”更好地专注于国际市场；第二、三营销事业部也进行了调整，改变了过去按照地域划分的做法，转而采取按照客户来划分，其中“二营”负责中国电信、中国铁通和专网，“三营”负责中国移动、中国联通和中国网通。
这主要是为了适应客户需求的变化，由于电信运营商们开始普遍采取统一招标的方式，原来分割市场的做法不利于竞标的开展。同时，客户需求的多样化也使厂商有必要进一步加深与客户的关系，以便了解他们的个性化需求。
此外，将接入网事业部分拆为二，分别并入网络事业部和移动事业部，将手机部门从移动事业部分离出来，成立了一个独立的手机事业部。成立手机事业部的动力来自市场空间的扩大，2001年以前，国外手机在技术上处于领先优势，一统中国市场。但2001年国产手机厂商通过OEM方式，大打营销战，迅速杀出一条血路，当年市场占有率达16％，2002年，上升为25％。国产手机势头很旺，中兴也要抢夺这块“蛋糕”。
准事业部制
这里需要提醒读者的是，中兴实行的是“准事业部”而非“事业部制”。事业部制是上世纪20年代初由通用汽车公司常务副总经理P·斯隆参考杜邦公司经验发明的一种组织管理制度，后来被日本松下公司运用到极致。其实质是根据企业从事的行业，按产品、地区、顾客来划分部门，事业部在企业宏观领导下拥有完全的经营自主权，实行独立核算，是模拟利润中心。它的好处是可以使大企业在内部获得小型企业的活力，弊端是企业整体资源共享难度加大。
与事业部体制不同的是，中兴的准事业部不拥有完整的自主经营权，虽然产品事业部和营销事业部都有经营指标，但是产品事业部不直接做销售，除手机事业部有部分自营外，必须由营销事业部去销售，而营销事业部只能销售产品事业部的产品。这实际上决定了事业部的独立核算只能是“相对的”，各自获取的利润，只能是“阶段性的”。