综观银行业改革全局，政府几乎把所有的精力都放在四大国有商业银行，却忽略了对中小银行和地方商业银行进一步的改革和探索。
中国银行业发展中存在的不平衡已成为不和谐因素，特别是小银行发展相对滞后。
由于历史原因，我国中小银行普遍存在公司治理结构不完善、内控制度不健全、产品开发创新能力不足等问题，严重阻碍了中小银行体系的健康发展。
事实上，受一系列制度性因素共同作用，地方政府始终存在很强的冲动，以各种方式不断对银行进行信贷资源的争夺并试图转嫁改革成本。特别是随着国有商业银行改革不断深入，自1994年开始，地方政府纷纷利用城市商业银行改制之机，通过对后者事实上的控制，实现自身对国有银行信贷需求的替代。并且由于地方政府对金融资源的控制有了不同程度的加强，反而推动了信贷规模的高增长和加剧了资源配置的低效率，损害了经济全局的利益。
由于存在巨大的外部性，中小银行的改革绝不是可有可无的;而为了确保中小银行改革成功，除了明确其功能和定位外，还须充分认清中小银行的特性——监督更为困难，破产风险更大。因此，除了强化外部监管，还应通过合理的产权安排，保证经营者、所有者有足够的利益驱动去规范他们的行为。上海浦东发展银行副行长陈辛建议，为了改善和提高中小商业银行的社会形象和信誉，应尽快制定存款保险和再保险制度并及早实施，从法规制度上保障中小商业银行的稳定运行。陈辛还大声疾呼，作为股份制企业，中小商业银行与国有银行一样，实行的是《金融保险企业财务制度》，大大束缚了中小商业银行的手脚，因此，应根据中小商业银行的性质，允许其适用股份公司财务制度。
当前，很多中小银行处境艰难，我们必须站在更高的层面上，重新认识中小商业银行在我国金融改革中的特殊作用和地位，切实把支持中小商业银行的改革发展提上应有的位置，从政策措施上鼓励支持中小商业银行改革发展，提高其与国有银行、外资银行的竞争能力，维护中小商业银行的市场主体地位。只有坚持改革、坚持开放，才是中国银行业发展和稳定的必由之路。