Первая церковь появилась в Галерной гавани ещё в 1725 году. После строительства Троицкого храма у служащих появилась идея собрать средства на каменное здание.
Основным жертвователем стал шкипер Матвей Кирин, в 1822 году завещавший свои капиталы Троицкой церкви. Поскольку Александр III также выделил значительную сумму на строительство, возведение храма приурочили к памяти его коронования — об этом напоминает позолоченная корона, изображенная на звоннице. На месте постройки долгое время стояла временная часовня с иконой Милующей Божией Матери, в честь которой позже назвали храм.
Церковь возводилась на искусственной насыпи, здание было выполнено в популярном тогда неовизантийском стиле. Авторами стали архитекторы Косяков и Прусак. Церковь интересна изящными полукуполами и колокольней над притвором. Боковые приделы были названы в честь пророка Осии (1896) и Сергия Радонежского (1900). Здесь хранились иконы 18 века и золочёный крест (1727).
С 1932 года в церкви был оборудован учебный комплекс для подводников, в северном приделе открыт музей подводного дела. С 2006 года шли работы по восстановлению церкви, с 2012 года реставрация завершена.
Сейчас вокруг церкви забор, она стоит на территории воинской части, вход через КПП.