早在西元前，聖母院今址就可能是宗教用地。根據教堂地下挖掘出來的一些文物，可以回溯到羅馬皇帝提庇留時代，在西堤島的東半部上可能建有一座用來祭祀羅馬與高盧神祇的神殿。至於在此位址上所修築的第一座基督教教堂，則眾說紛紜，有說法認為在4世紀時這裡修築了一座用來崇敬聖斯德望的大型教堂，位於現在聖母院以西約40公尺處，但也有說法認為教堂是在7世紀所建，但是使用了一些更早期時的建築要素，或有說法認為教堂是在墨洛溫王朝的希爾德貝特一世在528年時，以先前已經存在的教堂為基礎進一步改建