Die kleine Hagia Sofia (Kucuk Ayasofia Camii auf Türkisch) wurde im 6. Jahrhundert unter der Leitung des römischen Kaisers Justinian I. erbaut. Das Innere der Kirche, die in Form eines unregelmäßigen Achtecks angeordnet ist, zeigt einen zweistöckigen Säulengang und wurde mit goldenen Mosaiken und rotem und grünem Marmor versehen. Viele der Säulen zeigten die Monogramme des Kaisers Justinian und Kaiserin Theodora.
Justinian ließ die Kirche ursprünglich nach den Heiligen Sergius und Bacchus taufen, die Schutzheiligen der Christen in der römischen Armee, doch bekannt wurde sie unter dem Namen Kleine Hagia Sofia aufgrund ihrer Ähnlichkeit mit der größeren Hagia Sofia, die nur ein paar Jahre später fertiggestellt wurde. Zur damaligen Zeit war die Kirche eines der wichtigsten religiösen Bauwerke der Stadt Konstantinopel.