Constantine Mkuu mwanzoni mwa karne ya 4 aliamuru kujenga hekalu juu ya kaburi la Mtume Petro. Hamu hii ya mtawala wa kwanza wa Kikristo wa Kirumi ilielezewa na ukweli kwamba kaburi la mtume Petro aliyesulubiwa kila wakati liliheshimiwa na wafuasi wa Kristo. Ujenzi uliendelea kwa miongo kadhaa chini ya usimamizi wa Papa Sylvester I, na ilikamilishwa mnamo 349. Hekalu liliitwa Basilica ya Konstantino - kwa heshima ya Mfalme aliyeanzisha ujenzi.
Mnamo 846, hekalu liliporwa na maharamia wa Kiarabu. Hafla hii ilimchochea Papa Leo IV kujenga ukuta wa kujihami unaozunguka basilika na majengo ya karibu. Wazo hili baadaye lilipitishwa kwa Vatican, jimbo la jiji la kipapa.
Mwanzoni mwa karne ya 16, kanisa hilo lilikuwa limechakaa sana, na iliamuliwa kuwa marejesho yake yalikuwa ya gharama kubwa sana na hayana haki. Licha ya kutoridhika kwa watu wa miji hiyo, Papa Julius II aliamuru kuharibiwa kwa kanisa hilo na kanisa jipya lililojengwa mahali pake. Mwandishi wa mradi huo ni Donato Bramante. Kanisa kuu jipya lilijengwa kwa zaidi ya karne moja, na mabwana wengi wakubwa walisimamia ujenzi huo, kati ya ambayo Raphael na Michelangelo wanaweza kujulikana.
Mwanzoni mwa karne ya 17, ujenzi ulifanywa chini ya usimamizi wa mbuni Carlo Maderno, ambaye, kwa idhini ya Paul V, alifanya mabadiliko ya kimsingi kwa muundo wa hekalu, akibadilisha sura ya jengo kutoka msalaba wa Uigiriki kwa Kilatini. Hatua hii imeongeza uwezo wa Kanisa kuu la Mtakatifu Petro.
Madhabahu kuu iko juu ya kaburi la mtume, lililoko katikati ya hekalu. Iko chini ya kuba ambayo ilibuniwa na Michelangelo. Nyuma unaweza kuona kiti cha enzi kilichotengenezwa kwa meno ya tembo na kuni. Inaaminika kwamba Mtakatifu Petro ameketi kwenye kiti hiki cha enzi, akiwa Papa wa Roma. Kanisa kuu limetengenezwa kwa mtindo wa Baroque, mwandishi wa maelezo mengi ni Lorenzo Bernini.
Mapapa wamezikwa kwenye shimo la kanisa kuu. Mazishi ya mwisho yalifanyika mnamo 2005, wakati John Paul II alikufa. Kwa jumla, mapapa 148 walipata kimbilio lao la mwisho katika Kanisa kuu la St.