La synagogue Ben Ezra fut longtemps utilisée comme lieu de culte chrétien sous le nom d’église El-Shamieen et selon une légende, le bâtiment a été construit sur l'endroit exact où Moïse a été trouvé bébé dans son panier. Mais lorsque les chrétiens coptes n’ont plus été en mesure de payer les taxes annuelles imposées par les dirigeants musulmans, ils ont dû vendre l'église. Il a été achetée par Abraham Ben Ezra en 882 pour 20000 dinars et il l'a transformé en une synagogue.
La synagogue est devenue un lieu où les juifs d'Afrique du Nord se rassemblaient pour les grands festivals et où des rabbins célèbres venaient lors de leurs visites au Caire. Puis, lors d'une restauration en 1890, le plus célèbre Geniza du monde a été trouvé. Dans un espace vide sous le toit était cachés environ 300000 manuscrits inestimables, une collection qui est maintenant connue comme le Geniza du Caire. Les manuscrits ont depuis longtemps été transférés dans différentes bibliothèques.
