Im Jahr 1820 traf Pater John Therry in Sydney ein, um die römisch-katholische Gemeinde offiziell zu betreuen. Am Tag seiner Ankunft hatte er eine Vision von einer mächtigen Kirche aus goldenem Stein, die der Jungfrau Maria geweiht sein und ihre beiden Türme über die Stadt Sydney erheben sollte. Und 180 Jahre später wurde diese Vision Wirklichkeit.
Der erste Erzbischof der römisch-katholischen Kirche in Australien, John Polding, legte 1868 den Grundstein für die Kathedrale. Obwohl die Weihemesse bereits 1882 stattfand, wurde das Kirchenschiff erst 1928, die Krypta 1961 und die Türme 2000 fertiggestellt.
Die St. Mary’s Cathedral ist in Nord-Süd-Richtung ausgerichtet, nicht wie üblich in Ost-West-Richtung. Der liturgische Ostteil befindet sich im Norden, die Westfassade im Süden. Die Eingangsfassade ist lose an Notre Dame in Paris angelehnt.
Sie wurde 2004 in das staatliche Denkmalregister aufgenommen.