Miesto, na ktorom súčasný chrám stojí, bolo od nepamäti centrom spoločenského a cirkevného diania v meste. Na tomto území existovala osada, ktorej obyvatelia tu okrem svetských stavieb a trhu postavili v 11. storočí menší kostol, rotundu, okolo ktorého pochovávali. Rotunda bola v 12. storočí prestavaná na kaplnku a jej spodná časť slúžila ako karner. Potrebám veriacich sprvu plne postačovala.

Duchovným predchodcom dnešnej katedrály bolo prepoštstvo s kapitulou na hradnej akropole. Podľa archeologického výskumu stál tento kostol na mieste veľkomoravskej baziliky, na východnej terase hradu. Dôležitým rokom z hľadiska staveb-​nej histórie dnešnej katedrály bol rok 1221, kedy sa po predchádzajúcom presťahovaní prepoštstva z hradu, presťahoval do podhradia i kostol.

Vzhľadom na postupné narastanie počtu obyva-​teľov mesta však už kaplnka sv. Martina nestačila, a tak čoskoro po presťahovaní (na prelome 12. a 13. storočia) vyrástla na jej mieste stavba kostola v románskom slohu. Vzrastajúca prosperita mesta, ktoré sa stalo jedným z najvýznamnejších centier Horného Uhorska, našla odraz aj vo vý-​stavbe objektov reprezentujúcich mesto navonok. Kapitula i mestská rada sa rozhodli postaviť nový prepoštský chrám v novom gotickom slohu.

V roku 1432 starý kostolík zbúrali, aby na jeho mieste mohli postaviť klenbu nového trojlodia. V roku 1451 pokryli strechu chrámu krytinou a 10. marca nasledujúceho roku bol nový Kostol sv. Martina slávnostne konsekrovaný.