Théophraste Renaudot, médecin de Louis XIII, philanthrope et ami de Richelieu, est nommé Commissaire général des pauvres en 1631.
Le 27 mars 1637, le roi l'autorise à ouvrir un Mont-de-Piété à Paris.
Après la mort de Richelieu et de Louis XIII, Théophraste Renaudot perd ses principaux défenseurs. Ses ennemis (les usuriers, la faculté de Médecine et le Parlement de Paris) réclament la fermeture de l’établissement.
L’activité du Crédit Municipal de Paris se ralentit considérablement pendant la Seconde Guerre mondiale.
Le déclin se poursuit au cours des années 1950 et l’établissement est contraint de diversifier ses activités.
Par la loi de finances du 11 juin 1954, les caisses de Crédit municipal sont parmi les premiers établissements à proposer du crédit aux Français, et plus particulièrement aux fonctionnaires.
La loi bancaire du 24 janvier 1984 reconnaît le Crédit municipal comme banque à part entière.
En 1992, l’établissement est placé sous la responsabilité de la Ville de Paris qui en est l’actionnaire unique.
Une réorganisation est opérée fin 2004 :
l’activité historique autour de l’objet est dévolue au Crédit Municipal de Paris tandis que celle des prêts bancaires revient à sa filiale CMP-Banque.