В средние века в Ичери Шехер было двое главных входных ворот, которые выводили на сушу (ворота Шамахи и ворота Сальян). Рядом с этими воротами были расположены таможня и баня. Караваны, прибывающие в город по «Шелковому пути», после прохождения таможни отправлялись в баню. Им разрешали входить в город только после того, как они искупаются. Это говорит о том, что средневековый Баку строго следовал санитарно-гигиеническим нормам. Одна из этих бань находится в Ичери Шехер, слева от дома Бакинских ханов сразу после прохождения Гоша Гала, и остается под крепостными стенами. Эта безымянная баня была построена в конце 14-го века, в начале 15-го века, во время мира и спокойствия государства Ширваншахов. Как и все бани Ичери Шехер, эта баня также построена под землей, чтобы держать температуру в помещении стабильной. Со временем толщина почвенного покрова полностью ее накрыла. Несмотря на то, что она все еще находится под землей, все же можно сказать, что на поверхности ее комнат имеются купола. Купола бани расположены над поверхностью земли. Из отверстий в куполе свет падал внутрь комнаты. Система бань подобного типа характерена как для Баку, так и для Абшерона. После русской оккупации Ичери Шехер в 1906 году территория нынешней подземной бани (во дворе дворца Бакинских ханов, у подножия стены крепости) становится военной комендатурой русских. Именно в этот период купол ванной, который был бесполезен, а часть которого была разрушена, был снят и покрыт землей. На постсоветском пространстве здесь находился военно-полицейский участок. Два окна бани все еще остаются на стене крепости слева от ворот башни «Гоша Гала».