Xhamia e Madhe e Parisit u ndërtua si një tribut për ushtarët muslimanë që luftuan dhe u vranë për Francën në Luftën I Botërore. Brenda xhamisë gjendet një oborr-kopsht i mbushur me lule të ndryshme, duke përfshirë këtu këmboran (familja e Fabaceae Leguminosae) një lule e magjishme e vendeve aziatike që shpërthen çdo pranverë.
Xhamia e Madhe e Parisit u financia nga shteti francez me një ligj të 19 gushtit 1920, i cili akordoi një subvencion 500,000 frangash për ndërtimin e një kompleksi musliman i përbërë nga një xhami, bibliotekë dhe një sallë takimesh e studimi. Xhamia e Madhe u ndërtua mbi truallin ku kishte qenë një Spital Bamirës i quajtur Pitie Salpetriere pranë Jardine des Plantes.
Guri i parë u vendos më 1922. Punimet u kompletuan nga Robert Furne, Moris Montu dhe Sharl Heube bazuar në planet e përgatitura nga Moris Transha dë Lune. Xhamia u ndërtua sipas stilit arkitekturor maroken dhe minarja e saj është 33 metra e lartë.
Xhamia u inaugurua më 16 korrik 1926 në prani të presidentit francez të kohës Gaston Dymerzhe dhe Sulltanit Jusuf të Marokut.
Në 1929 mbreti Fuad i Egjiptit i dhuroi një minber të punuar shumë bukur, i cili vazhdon të jetë në përdorim edhe sot. Interisrët e xhamisë janë të zbukuruar artistikisht sipas stilit afrikan maur dhe sjellin gjerësisht ngjyrimet që vijnë nga jeta e berberëve algjeriano-marokenë.
Gjithsesi ndërhyrjet e Republikës laike franceze në identitetin e emigrantëve afrikano veriorë të brezit të dytë e të tretë të lindur në Francë ndihen qartësisht në politikat e ashpra tē presidentit Emanuel Macron.
