公司治理结构是关于公司控制权和剩余索取权分配的一套法律、文化和制度安排。这些制度安排决定了公司的目标、在什么状态下谁实施控制以及如何控制、在不同的企业成员或者相关利益主体之间的风险与收益分配等问题。狭义地讲，公司治理结构就是公司的管理层、董事会、股东和其他利益主体之间一系列的关系。通过一种组织结构来确立起公司的目标，以及达到目标和监测业绩的手段。公司治理机构的基本构成主要包括股东大会、董事会、经理和监事会。目前被社会普遍接受的公司治理结构的模式是以董事会为中心，管理层对董事会负责，董事会对股东履行其应尽的受托责任。
金融集团需要一套完善的公司治理结构。应该说，金融集团因为其庞大的组织结构，复杂的股权关系，完善的公司治理结构对其尤为重要。
1.完善金融集团母公司与子公司之间的治理关系。
金融集团的母公司作为推动集团整体发展的战略规划者，需要在良好的公司治理结构下实现对各分子公司的有效控制。只有通过有效的激励和约束机制，不断发展和壮大集团范围内的企业“集合”，维持集团的可持续发展。在集团整体产业发展战略下，各金融分子公司既是金融集团产业链中相对独立、互相依存的事业部，又需要在集团整体治理结构下实现战略协同效应。
2.改善金融集团的股权结构。
金融集团的股权结构与公司治理结构有着密切的关系，股权结构的差异会给公司带来不同的影响。当股权过于集中时，小股东影响董事会决议的能力较弱，从而造成小股东行使股东大会权力的积极性减弱，进而使股东大会成为大股东的内部会议，进而出现内部人控制现象，控股股东通过内部交易损害小股东的利益。陈晓和王琨（2005）指出关联交易是控股股东侵犯其他投资者权益的重要手段之一，控股股东数目的增加以及股权在控股股东之间的均匀分布会降低关联交易的金额和数量，只有改变目前金融机构股权过分单一的现状，引入多元化的投资主体，特别是引进国际战略投资者和有实力的民营资本，改善股权结构，减少国有股在股份中的比例，从而使股权分散化，形成对大股东的有效制衡并减少政府部门对国有金融集团和机构董事会的人员干预。另外，产权理论认为，只要产权是可交易的，不管产权的初始结构如何，都可以通过产权交易改善资源配置结构，提高社会福利水平。对国有金融集团和金融机构的公司治理改革中，应允许金融产权交易，在国有相对控股的股权结构下，通过资本市场或引进国外战略投资者，改善金融集团的股权机构，最终才能提高中国金融集团的治理效率。
3.建立以业绩为导向的激励与约束机制。
在金融机构的公司治理结构中，高级经营层负责金融机构的日常经营管理工作。高级经营层管理水平的高低、敬业与否，直接影响着企业的经营绩效和风险情况。在高级经营层能力既定的前提下，企业业绩很大程度上取决于经理人员的努力水平和敬业程度。国外金融机构纷纷建立了激励报酬机制，通过数据分析，得出国外金融机构的高级经营层的年薪报酬不如激励报酬的效应。对于转制过程中的中国金融机构，许多高级经营层人员的报酬还带有严重的旧体制的色彩，如何提高高级经营层的总体收入水平，扩大高级经营层报酬中变动部分与固定部分的比例，增加内部报酬级别差异。对于促进金融机构的经营目标的实现具有重要作用，国有金融集团和金融机构改制为多元化金融集团和金融机构后，必须建立薪酬与经营绩效和个人业绩密切联系的激励与约束机制，对高级经营层人员实行与其业绩相挂钩的多维激励机制。
4.健全金融集团的董事会结构。
现代企业的董事与董事会是作为股东的代表来实施公司治理、激励和保证经营者对股东履行代理职责的一种制度安排。董事会的构成独立于管理层，以监督、制衡其工作。董事会赋予管理层正常经营管理的权力，但保留对管理层的最终控制，监督主要的政策提议以及聘用、解聘高层决策者和制定高层决策者报酬。
金融集团应在传统的董事会框架中引入独立董事制度，并提高独立董事在董事会中的比例，来增强董事会的独立性。例如：花旗集团与汇丰集团的治理结构中，两家金融集团的董事会中执行董事比例只占少数，而外部的非执行董事人数较多。外部董事一般都是公司之外某个相关领域的资深专家，他们具有某个方面的独特专长或是拥有广泛的关系网络，而且比较客观，比较注重自身的信誉，能积极参与对公司重大经营决策的参议和监督，在对公司管理层的监督约束中起着重要作用。中国需要借鉴国外的经验，在金融集团的董事会中聘任一定比例的外部独立董事，通过改善并健全董事会的结构，强化董事会的监督机制和约束机制，一定程度上解决董事与经理班子成员过多的交叉任职，保证董事会对经理人员监督的有效性。非执行董事构成了董事会的大多数，董事会才能起到监督制约管理层的经营效率与效果。