Цистерна Базилика появилась рядом с храмом Святой Софии во времена Византийской империи для хранения запасов воды. Там, где сегодня находится это сооружение, когда-то была базилика, окружённая зеленью, ― отсюда и название. Второе название места ― Еребатан Сарай ― переводится как «подземный дворец», было дано из-за большого количества колонн, поддерживающих свод сооружения.

Во времена Византийской империи на случай, если город будет осаждён, было необходимо такое водохранилище. Существовали и другие, но Цистерна Базилика ― самое крупное. Сооружение стало музеем в 1987 году и сегодня весьма популярно у туристов.