慈云禅寺位于清江大闸南侧，原名“慈云庵”，是江淮地区著名的寺庙，始建于明朝万历二十年（1592年）。清康熙十四年（1675年）秋，被顺治皇帝敕封为“大觉普济能仁琇国师”的玉琳法师南游到清江浦的“慈云庵”，八月十日趺坐而逝。康熙颁诏厚葬，重修“慈云庵”并建“法王塔”。雍正十三年（1735年），清世宗胤禛下诏在“慈云庵”原址新建，改“慈云庵”为“慈云禅寺”，并亲题匾额。
当时的“慈云禅寺”占地二十五亩。门前照壁，左右分别有“春霭慈云坊”和“泽溥万方坊”两座牌坊。五重殿宇，华丽壮观，寺内遍植苍松翠柏、名贵花木，四季溢香。乾隆四十五年（1780年）与四十九年（1784年）两次南巡，均入寺瞻礼。咸丰十年（1860年）捻军攻入清江浦，慈云寺被全部焚毁。
同治元年（1862年），慈云寺得以复建重修，历经二十年才恢复旧貌。复建以来，该寺一直处于半寺半衙的状态。同治年间，李鸿章的淮-运局设于寺中。光绪三十年（1904年），地方士绅在寺中办“浦惠粥厂”赈济灾民。光绪三十二年（1906年）江苏提督刘永庆于寺中办“江北警察员弁学堂”，后复设警察分局。
民国七年（1918年），“慈云寺”的“大雄宝殿”再次毁在大火中。连年的战乱，加上水、旱灾祸相继，后又遭日寇入侵，寺院从此一蹶不振。民国二十五年（1936年），中国佛教协会淮阴支会成立，会址即设于寺内。解放前，寺内还举办过“大成-”（儿童慈善学校）。
解放后，“慈云寺”由淮阴花纱布公司及五金公司先后占用。1986年，省政府批复同意将“慈云寺”修复开放，列为省重点寺庙之一。
从1990年冬开始，“慈云禅寺”开始了全面修复，历时四年，终于对外开放，重现昔日庄严雄伟的风貌。