Kirikuhoone projekteerisid Karl Z. von Schafhausen ja Harald J. Bosse. 27. november 1860 toimus kirikuhoone pidulik sisseõnnistamine. Aastatel 1880-1900 oli Jaani koguduse pastoriks rahvaluule- ja keeleteadlane, üks Eesti rahvusliku liikumise suurkujusid Jakob Hurt.

Pöördeline hetk kiriku ajaloos oli 1930. aasta kui Lensoveti korraldusel keelati jumalateenistused ning kirik võõrandati koguduselt. 1970ndatel jäi hoone tühjaks ning hakkas lagunema kuni 1996. aastal pöörduti Peterburi kuberneri poole kirjaliku palvega tagastada kirik ja tema juurde kuuluvad hooned. Kui kirik tagastati algasid rahakogumise aktsioonid ning 2008. aastal valmis ehitusprojekt kiriku taastamiseks. 20. veebruaril 2011 taasavati Peterburi Jaani kirik.