Ihre gleichnamige Vorgängerin von der heute leider keine Überreste mehr sichtbar sind, ging bis auf die Spätantike zurück. Die „erste“ oder „alte Peterskirche“ war so die älteste Kirche und Pfarre Wiens und entstand aus dem Umbau eines Kasernenbaus des römischen Legionslagers Vindobona im 4. Jahrhundert.
Der Sage nach jedoch, soll die Peterskirche bereits 792 von Karl dem Großen höchstselbst gegründet worden sein – der Sage nach. Die alte Peterskirche brannte 1661 aus. Der Neubau wurde um 1701 auf Initiative Kaiser Leopolds I. begonnen und ziert heute noch, wenn auch etwas versteckt (man sieht die Kirche zwischen den hohen Gebäuden oft erst, wenn man direkt davor steht), den Petersplatz.