Der Vater des an der Pest verstorbenen Armenadvokaten Joseph Chauvenel erfüllte den letzten Willen seines Sohnes und stiftete 1652 in Nancy (Frankreich) ein Haus der Barmherzigkeit. Die Pflege der Armen und Kranken wurde unverheirateten Frauen („älteren Mädchen und tugendhaften Witwen“) übertragen, die als Barmherzige Schwestern das Werk weiterführten. Sie erhielten später ein größeres Haus, das dem hl. Karl Borromäus geweiht war, sodass die in diesem Haus wirkenden Schwestern von der Bevölkerung „Borromäerinnen“ genannt wurden. 1676 legten die ersten Schwestern das Gelübde der Barmherzigkeit ab, erst später folgten die Gelübde des Gehorsams (1704), der Armut (1708) und der Ehelosigkeit (1711).
1837 kam es zu einer Neugründung der Kongregation mit dem Mutterhaus in Prag. Von hier aus übernahmen die Schwestern karitative Aufgaben in bestehenden Werken und gründeten neue Niederlassungen, auch in Österreich. 1841 erhielt die Gemeinschaft die päpstliche Approbation. Der erste Wirkungsort in Österreich war Gmunden (OÖ, 1854). Seit 1865 waren sie im Kloster Nazareth in Stadl-Paura (OÖ) tätig.

In Wien übernahmen die Borromäerinnen 1877 das von Gräfin Wenckheim-Zichy gegründete „Greisenasyl“ in Wien im 3. Bezirk, Dietrichgasse 10, welches im Oktober 1878 nach Wien-Währing, Gentzgasse 106 verlegt wurde. Ab 1920 bestand eine eigene österreichische Provinz mit dem Provinzhaus in Stadl-Paura. Nach dem zweiten Weltkrieg hat der Heilige Stuhl 1945 die österreichische Provinz zu einer selbstständigen Kongregation mit dem Mutterhaus in Wien erhoben.

Im Jahr 1952 begannen österreichische Borromäerinnen ein neues Wirkungsfeld in Mexiko, wo die Schwestern derzeit in neun Niederlassungen tätig sind. Die mexikanische Region steht seit 1979 unter Leitung einheimischer Schwestern.

Im Jänner 2024 zogen sich die Schwestern nach fast 160-jährigem Einsatz aus Stadl-Paura zurück und übersiedelten ins Mutterhaus nach Wien.