Монастырь был основан Иоанном Кронштадтским в честь Иоанна Рыльского в начале XX века.
Здание было построено в 1900-1902 гг. по проекту архитектора Никонова. Нижний храм освящен в честь преподобного Иоанна Рыльского, небесного покровителя Дорогого Батюшки, верхний собор — в честь Двенадцати Апостолов. Настоятельницей обители была духовная дочь о. Иоанна, игумения Ангелина (Сергиева) (1867-1927).
С самого начала отец Иоанн особенно заботился о благоустроении новой обители. Еще при жизни Батюшки, его трудами и молитвами монастырь достиг своего расцвета. Обитель привлекала богомольцев своими уставными службами, умилительным пением сестер-певчих. Сам о. Иоанн любил называть себя «Божией милостью строитель Иоанновского монастыря». Здесь располагались его покои, в которых он останавливался во время посещения Северной столицы. Здесь же был устроен храм-усыпальница, в котором по завещанию Батюшки он и был похоронен 22 декабря 1908 года. Усыпальница была освящена во имя пророка Илии и царицы Феодоры, небесных покровителей родителей о. Иоанна.
К 1917 году в монастыре проживало 350 сестер. Практически все необходимое сестры делали сами. Обитель имела свое подсобное хозяйство, мастерские, больницу. Оказывалась благотворительная помощь нуждающимся, действовал приют для сирот. Во время I Мировой войны в монастыре был открыт лазарет для раненых солдат и офицеров.
После прихода новой власти монастырь был закрыт в 1923 году, все имущество было вывезено и разграблено, а здание передано в ведение более 20 различным организаций. В последующие годы почти все сестры подверглись арестам и были сосланы в тюрьмы и лагеря.
В 1989 году началось возвращение монастыря Русской Православной Церкви. За 70 лет, прошедшие после закрытия обители, здание пришло в сильный упадок. Храмы и все помещения были перестроены. Потребовалось несколько лет интенсивных ремонтно-восстановительных работ для того, чтобы возвратит монастырю его первоначальный облик.
Одновременно с восстановлением стен началось возрождение монашеской жизни. После того, как 13 июля 1991 года Приснопамятный Святейший Патриарх Московский и Всея Руси Алексий II совершил освящение верхнего храма, в обители ежедневно совершаются службы. Постепенно налаживается работа монастырских мастерских. В храме-усыпальнице св. прав. Иоанна Кронштадтского создан небольшой музей посвященный ему и истории монастыря. При обители действует бесплатная воскресная школа. В 1992 год монастырь получил статус ставропигиального и с того момента находится в непосредственном подчинении Святейшего Патриарха Московского и Всея Руси.