1950年代，來台穆斯林人數增多，麗水街清真寺空間狹小、明顯不敷使用。經中國回教協會理事長白崇禧向政府呼籲，並取得中華民國外交部部長葉公超協助奔走，為尊重訪台國賓的伊斯蘭教傳統，必須設置具有國際水準的清真寺作為禮拜場所。經多次協調磋商，政府與中國回教協會均樂於積極推動清真寺的興建工作。並且以捐款建寺之名義與穆斯林世界國家作更深入的接觸，以達到從事國民外交的實質目的。