“文革”结束，全国科学大会召开，给祖国的科技教育事业发展带来了第二个春天。在教育事业方面，国家恢复了本科生的招生工作，并且开展了对硕士、博士研究生的培养工作。1978年，已是哈尔滨船舶工程学院水声工程系教授的杨士莪也陆续开展了招收、培养硕士和博士研究生的工作。1981年，在杨士莪和本专业全体同志的努力奋斗下，哈尔滨船舶工程学院水声工程专业获得了中国的第一批博士学位授予权；1987年，水声工程专业成为全国高等学校第一批重点学科，并建立了博士后科研流动站；1993年，建成国家级国防科技水声技术重点实验室；1994年，哈尔滨船舶工程学院改名哈尔滨工程大学。到2010年为止，在杨士莪指导下已有3名博士后出站、20余名博士生毕业，另外还有20余位硕士研究生毕业。这些高层次的水声专业人才现在已是国内及国外各个单位的科研及学术带头人或骨干力量，为祖国的水声事业的发展做出了重大贡献。在此期间，杨士莪一直担任哈尔滨船舶工程学院、哈尔滨工程大学水声工程系教授、博士生导师、系主任及水声研究所所长；1982年至1987年，杨士莪担任了哈尔滨船舶工程学院副院长；1994年，杨士莪被授予国家优秀教师荣誉称号。他所创建的中国第一个水声专业已成长为国内著名的水声科研基地和最大的水声人才培养基地。
从20世纪80年代起，杨士莪又高瞻远瞩，把目光扩展到了国防探雷技术领域。他在流体界面附近物体声散射特性与分析方法、有限长弹性圆柱高频谐振分析、水雷和随机目标衍射特性辨识、极近场目标散射理论和实验研究等方面均取得了重要成果，多次获得部级科技进步奖，为设计新原理探雷声纳开辟了新途径。他还指导开展了高分辨力声呐技术、声呐图像信息识别、条带多波束测深技术等高新技术项目和课题研究并取得了积极成果。他倡导并组织国内有关单位参加的“掩埋水雷探测的基础研究”自然科学基金课题部分成果达到了国际领先水平。在他的带领下，水声研究所尝试用高科技手段为祖国的万里海疆，铸就一条看不见的攻防兼备的海下长城。
在杨士莪的引领和带动下，水声技术国防重点实验室取得了许多自主的创新成果，填补了多项国内空白，在水声专业的许多方面都体现着国家级的发展水平，并在某些方面与国际水平相当。世界知名的水声专家、英国人格瑞夫斯在20世纪80年代来到学院，看到他们研究的课题也正是英国水声界研究的内容，赞叹说，“天下英雄所见略同”。80年代，该实验室有许多水声技术研究，与英、美等海军大国处在同一水平线上，有的甚至超过了他们，处于国际领先水平，得到国际、国内的普遍认可。
杨士莪主持组建哈尔滨船舶工程学院水声研究所，亲任所长并作为项目负责人和技术顾问，率领一批优秀科学家相继完成了一系列具有国际先进水平、应用于不同对象的水声定位系统。其中“水声高速目标跟踪定位与导引系统”荣获1992年国家科技进步一等奖。该系统及其后研制的“船载鱼雷三维轨迹测量系统”为1993年我国新型鱼雷海试定型起到了关键作用。他在研究课题中解决了单基元异步信号测漂、超短基线多途信号相位修正、高数据率远程距离模糊、提高定位精度的混合式模型等关键技术，为中国水声导航定位技术的发展奠定了基础，为我国新型水中兵器定型起到了关键作用。目前，水声研究所在水声定位技术领域稳居国内头把交椅，多项技术已跻身世界先进行列。
此后，杨士莪又担任船载式鱼雷轨迹跟踪测量系统研制组组长，该系统无论是技术方案还是设计思想，在当时都处于国际先进水平，做到了精度高、实时测量，而且是船载式，为中国填补了空白，研制经费仅是国外的十分之一。该项研究成果于1996年被中国船舶工业总公司评为科技进步奖一等奖，1997年被评为国家科技进步奖二等奖。
同时，杨士莪作为国防科委水声专业组组长，在制定我国水声发展规划、确定水声学科研究方向、指导和促进我国重大水声科研和工程项目中，都起了核心作用。
在不断的锤炼和积累中，我国的水声技术获得了不断的发展，队伍也在不断壮大。20世纪80年代初，杨士莪与有关专家又向国家提议：进行大规模的独立深海考察。而在这之前，我国的水声研究工作多限于浅海，真正的深海考察仅限于1960年的中苏联合南海水声考察。在提议得到批准后，杨士莪和团队成员在做好本职工作的同时，开始了长达十年的筹备工作。十年间，杨士莪作为技术组长，频繁奔波于北京、广州、湛江等地考察调研，亲自起草编写了《南海重点海域水声综合考察论证报告》《实验大纲》《实施计划》等重要文件。国家为这次考察准备了整整十年，国防科工委、海军、中国船舶工业总公司投入近百台套大型设备，全国几十个单位的众多科研人员参加考察。
“十年磨一剑”。距杨士莪第一次和苏联的同行在南海联合考察34年之后，“亮剑”的时刻终于到来，这一年，杨士莪63岁。
1994年4月，广东湛江港，两艘考察船载着全国十几家水声科研单位近百人组成的考察队驶离了码头，杨士莪被任命为考察队长和首席科学家。对于中国和杨士莪来说，为这一天的到来等待得太久了。当飘扬着五星红旗的水声科学考察船队驶入中国南海时，站在甲板上的杨士莪，心中洋溢着圆梦的欣慰。这次大型深海水声考察完全由我国科学家指挥和实施。
南中国海一望无际。我们的祖先最早踏上了这里的每一块岛礁。后来随着这里丰富的海底资源被陆续发现，各种势力染指南海、蚕食岛礁、掠夺资源的情况愈演愈烈。浩瀚的大海，为科学家们展示了内涵丰富的等待深入研究的课题。
从琼州海峡到南沙群岛，考察队的航迹深入南中国海。深海区域作业时，赤道附近的太阳几乎垂直挂在头上，水声科学家们冒着高温，抱着一百多斤的线轴在电缆里钻来钻去，一干就是十几个小时。南海的酷热，使考察人员备尝海上作业的辛苦滋味。杨士莪身先士卒，和大家一起忍受着高温酷热、缺少淡水、没有蔬菜的艰难。在长时间海上试验、淡水告罄的情况下，他和同志们把压载水仓飘着油污的水烧开了喝。
这次考察是我国第一次有战略意义的水声科学考察，也是新中国成立以来我国水声工作者首次独立出航考察。在杨士莪主持下，考察取得了圆满成功，掌握了南海典型海域的水声环境特点及主要参数规律，积累了宝贵的第一手材料，提高了海洋水声条件预测和重点海区建模能力，为祖国领土完整和国防事业做出了重要贡献。同时，培养锻炼了一大批水声事业接班人，培养了新的水声力量。对这次远航，现已是哈尔滨工程大学副校长、当时担任指挥助理的杨德森感慨不已：“我们还有300万平方公里的海洋国土不能忘。南海资源太丰富了，这么大的海疆过去没有好好关心利用，太可惜。这种局面不该再继续下去了。”
考察结束后，考察队员登上了祖国南疆的永暑礁，当一边听着守岛战士介绍他们的生活、工作，一边眺望着浩瀚无边的大海时，杨士莪更深切地感受到保卫祖国海疆、开发海洋资源的意义。他想起当年，望着水碧沙明、富饶美丽的南海如处子般沉睡，他深深地忧虑过：何时我们能凭自己的力量来这里考察开发？现在，这个梦终于圆了。
1994年中国工程院成立，这是我国工程技术界的最高荣誉性、咨询性学术机构。次年7月，杨士莪以在中国水声学科方面的重大建树当选为中国工程院院士。与他同时当选的还有：环境工程学家顾夏声、光学专家薛鸣球、探矿工程专家刘广志、大地测量学家宁津生、矿产勘查专家汤中立等186位专家。
1995年8月中旬，杨士莪出席中国工程院朱高峰副院长召开的黑龙江省院士座谈会，与他一同参加的还有林尚杨、刘永坦、谢礼立、沈荣显院士。
当选为院士对于杨士莪来说，除了更多的会议和事务外并没有太大的变化，他还是原来的他，他依然保持着谦虚、严谨的教学、科研态度。他说：“目前来看，我国的大多数工作还是在借鉴、模仿，适当改进和修正。拥有真正属于我们自己的开创性的成果，是我们要努力的方向。现在我国也更强调一些基础性、理论性的研究，但真正实践力度不够，有些急功近利。我们应该利用我国社会制度的优越性，组织优秀力量进行攻关，推动相关工作更快进步和完善。”
在科研领域中摸爬滚打了60余年的杨士莪，深深地懂得科研和教学工作中严谨的重要性。“搞科研成长起来的人都知道，在科研上头玩不了花招，你糊弄它，它就糊弄你。只有你老老实实、规规矩矩，干成的东西才能是实实在在的。
对学生要求也是这样，可能别人觉得我比较严格，实际上就是严谨吧，我觉得这是搞科研应该有的态度。”
杨士莪认为，作为水声工作者，应该非常重视实际的海上实验和测量。在哈尔滨的60年中，他出差在外的时间合计起来就近30年，每年他都有大半时间在全国各地度过——海上实验、课题论证、决策咨询，以至于有人问及他的家乡时，他便会幽默地说：“我是一个四海为家的人。”如今，虽然上了年纪，但他仍然身体力行，亲自到海上实际参加海试。黑龙江，离大海很远。自1953年来到哈军工，杨士莪倾尽一生的心血，60个春秋，在这个远离大海的城市里从事着关于海洋科学的研究，与“海洋”打了一辈子的交道。大海的澎湃从来传不到这里，却时刻能传进他的心里，涛声如魅，成就了他一生的事业，成就了他大格局、大气度的人生。
作为杨士莪带出的第一个博士毕业生，担任哈尔滨工程大学水声工程学院院长、水声技术国防科技重点实验室主任的李琪，对老师杨士莪的一句话刻骨铭心——“要啃硬骨头，别人不愿干的活，我们来干！”
杨士莪始终处在水声领域“国家队”领导者的位置。他的同事和学生都说：
他对学科发展方向、研究方向的把握令人叹服，他提出的一些开拓性的研究，当初都是很冷清、无人关注，但总是在若干年后，人们才看出其分量。矢量水听器的研究就是其中一例：杨士莪当时提出这个方向时，国内同行都不以为然，只有俄罗斯专家表现出关注。几年后，当水听器使声呐水平跨越式提高以后，人们才意识到：“这个东西就是好！”
“敢啃硬骨头才能练就一口好牙！”在杨士莪始终坚持的这个思想指导下，哈尔滨工程大学水声创新团队格外地有战斗力，承担了国家大量的科研课题，虽然该院的科研人员只占到全校的1/10，承担的科研课题数量却占到全校的1/5，人均科研经费50万元。