隋炀帝登临大宝之后，就立即征发百万民工开挖工程浩大的南北京杭大运河。运河开凿成功之后，隋炀帝又大造龙舟游江都，结果不仅丧失了数十万的民力，耗费了大量钱财，而且导致了隋王朝的直接灭亡。缘于此，历史上就对开凿运河一事展开了评价，一直以来褒贬不一。
传统的观点认为，大运河开凿的原因，是因为隋炀帝为了满足自己巡游江都风光的目的，当然也有加强对东南地区的控制和将南方财赋物资运往京都的需要，但主流是满足个人的奢侈生活。唐人皮日休就曾赋诗《汴河怀古》批评道：“尽道隋亡为此河，至今千里赖通波。若无水殿龙舟事，共禹论功不较多。”认为如果不是巡游带来的大量钱财的浪费，以致国空民竭，那其功可与禹相提并论。同时持这种观点的人还指出，炀帝不仅好炫耀巡游，更好扬州的春江花月，他就曾为此做《春江花月夜》一诗说：“暮江平不动，春花满正开。流波将月去，潮水带星来”。此外的《江都宫乐歌》、《泛龙舟》、《幸江都作》、《迷楼歌》都是其向往扬州奢靡生活的写照，以致有诗云其“种柳开河为胜游”。
与之相对应的一种说法还认为，大运河之所以被开凿，是因为“睢阳有王气”，通过开凿运河可以将此王气“凿穿”，那样隋朝的江山就稳固了。至于炀帝喜游江都，那是因为江都是炀帝的福气之地。这种观点是流传颇为久远的一种看法，这在历代的野史杂记中均有大量篇幅的描写，唐《开河记》就是一例。
针对以上的观点，许多学者均认为是荒谬之言，乃是史家、小说家拿隋炀帝当暴虐之君并用作反面教材大肆渲染夸张的结果，不足为信。他们指出由于我国水流由西向东的地理地形的限制及政权南北格局的特点，使开运河一事从春秋战国至以后的历朝历代都有进行，而非隋炀帝一朝一代之事，南北京杭大运河的开凿是有其深刻的政治、经济、军事原因的。
隋朝结束了魏晋南北朝以来的分裂割据局面，统一了全国。但要实现南北政治上的统一，则势必要保证交通、通讯的便捷有效，这样政令才能贯彻，江南地方有个风吹草动京都中央也能及时加以控制，大运河的开凿就是应这种时势而开凿的。同时，由于经济重心已经南移，粮钱等物要从江南源源运抵京师，保证京师的供给，仅靠陆路运输，不但浪费时间，而且工作量大，效率低下也是重要问题，这还不算人畜运输过程中的消耗。相比较下来，水运不但运量大、快捷，而且还省了不少运输费用，降低了成本，可以说是古代最经济的运输方式了。这样，开凿大运河也就具有明显的经济效益，其开凿是显而易见的利国利民顺应历史、社会发展潮流的宏伟功业了。当然，在军事上，大运河便捷的运输能力，可以加强中央政府对江南及北方要塞的控制，具有重要的政治军事价值。例如永济渠的开通，就是为征高丽而做的军事准备。由此说来，将隋朝的灭亡，归罪于大运河的开凿是根本站不住脚的。
然而，也有人对上述说法表示质疑，他们认为既然隋大运河的开凿是为了诸多的治国需要，那么隋炀帝在运河开通后三游江都，大肆炫耀，龙舟之华丽，浪费财物之奢侈又该作何解释呢？他滥用民力造成国库空虚，不及时充盈和缓和阶级矛盾，改善人民生活，却着急于享乐，这又该如何解释呢？因而，说运河的开凿是为了政治等方面的需要，说法也是有偏颇之嫌的。
其实，以上的种种说法，都将视角放在了微观领域去进行研究，而忽视了宏观上的把握。大运河的开通，既有形势的需要，也难脱隋炀帝个人享乐主义思想的干系。总之，个中是非曲直，一时还难以断言，留待史家去研讨揭露真相吧。
隋代大运河初建于大业元年（公元605年），完成于大业六年（公元610年）。这条河南起余杭，中经江都、洛阳，北至涿郡，连通了海、河、淮、江、钱塘江5大水系，穿梭于今浙江、江苏、安徽、河南、山东、河北6省及北京、天津两直辖市，全长约2000公里。它是世界上开凿最早、航程最长、规模最大的一条古运河，是古代运河史上一项伟大的工程。
大运河的开凿是分四段进行的。第一段是通济渠，此渠又名御河，这条河连接黄河和淮河两大水系，为最先开凿的一段。通济渠共分3段：一是自洛阳西苑引谷水、洛水，循阳渠故道东向由洛水注入黄河；二是再自洛口利用黄河自然河流接通洛阳西苑，方便巡幸之用；三是由板渚引黄河水向东南注入淮水。通济渠全长1300多里，史载“河畔筑御道，树以柳”，而关于其当时规模气势之描写，愚以为一首古诗所言极为恰切，诗云：“大业年中炀天子，种柳成行夹流水。西自黄河东至淮，绿阴一千三百里。”
第二段日邗沟，此段连接江、淮两大水系，虽然全部航道仅有300余里，但是它的作用却异常重要。其意义史称“为后世运道直径之始”也，这段话的评价其实也就是说邗沟的开凿有开创之功。邗沟不仅地位重要，历史也非常久远，它并非隋代第一次开凿的，它从春秋吴王夫差时代就已有记载，只不过到了隋炀帝时期得到了最完整的修整护理而己。隋炀帝取直了邗沟，缩短了江淮水运的距离，使长江与淮河、黄河之间航运畅通无阻，从而为后世造福万代。如此开创之功，不但未见称颂溢美之词，反而落了个遗臭万年的名声，真是悲悯至极呀。
永济渠是隋代大运河的第三段，它沟通黄、海两大水系，为东北走向。此段的开凿，据《隋书·炀帝纪》载，乃是大业四年（公元608年）正月乙亥日，诏“发河北诸郡男女百余万开永济渠，引沁水南达于河，北通涿郡”。关于永济渠的具体情况，《隋炀帝新传》上记载说，该渠是以通济渠渠首对岸的沁水入黄河处附近为渠口，然后经东北取向汇合清河、淇水，经新乡、汲县、卫县，接着流经黎阳（今河南浚县东北），从内黄县与洹水县中间北流而去，经魏县（今河北大名西）、贵乡（大名东北），过馆陶县，穿永济县，再经临清西门外，过清河东南十里、武城、历亭、漳南（均在今山东德州以南）、长河（德州以东）西十里、东光县西南、白桥、南皮、长芦（今河北沧州），直北过今青县、静海，又折向西北，接桑干水（今永定河）达涿郡蓟城（今北京市），全长2000余里。此段为大运河中最长的一段。
第四段江南运河为南北大运河最南的一段，全长800里，宽约10余丈。其沿途路线大致是北起京口（今镇江），东南经曲阿（今丹阳）、陵口、吕城、奔牛、常州、威墅堰、无锡、望亭、浒墅关、苏州、关江、平望、嘉兴，东环绕太湖而后折向西南，又经石门、崇德、塘栖、拱宸桥至杭州西南的大通桥附近入于钱塘江。江南运河连通了长江水系与钱塘江两大水系，又与邗沟直接相通，这样就与整个运河连接在了一起。
由于我国河流大都是东西走向，这是由我国西高东低的地理走，势决定的，而南北大运河的开凿则将南北方向连接了起来，就像是用一条线将五大水系串于其上，从而东南西北，四通八达，给当时的统治者提供了一条便利的管制渠道，加速了南北政治经济的交流，对以后的历朝历代都产生了重要的影响。隋代南北大运河不仅是中国历史上伟大时代的产物，是中华民族智慧和力量的结晶，是中国人民的骄傲，更是古代运河史上的伟大奇迹之一。