Als erster mittelalterlicher Bischofssitz wurde eine Kirche vermutlich von dem aus Salzburg stammenden Chorbischof Modestus im 8. Jh. errichtet. Diese war bis 945 Bischofskirche.
Der heutige spätgotische Neubau mit seiner Doppelturmfassade gehört zu den imposantesten Kirchen Kärntens und wurde von 1430 bis 1459 wahrscheinlich über dem Grundriss des romanischen Vorgängerbaus errichtet. Der dreischifigen, basilikal gestaffelte, gotische Innenraum ist einer der prachtvollsten Kärntens und beeindruckt unter anderem an der Decke des Mittelschiffes mit einem Freskenzyklus des Stammbaums Christi und im Chor mit dem Dreikönigszug bzw. dem bethlehemitischen Kindermord. Die Moderne ist über dem Sakristeiportal mit "Die Errettung Petri" von Herbert Boeckl vertreten. Der zweigeschossige Hochaltar birgt in der Mittelnische die vor einen Strahlenkranz gesetzte gotische Madonna mit Kind. Bemerkenswert sind auch die Kanzel von Johann Pacher, die plastische Gruppe des hl. Nepomuk in der Gloria, die Orgel mit prachtvollem Prospekt sowie in den Seitenchören zwei spätgotische Flügelaltäre. An der südlichen Außenwand der Kirche sind zahlreiche römische Reliefs und spätgotische Grabsteine angebracht. Davor steht im südlichen Kirchhof die wohl schönste gotische Lichtsäule Kärntens. Die Anlage ist umgeben von einer mächtigen Wehranlage mit Karner aus dem 15. Jh.

