嘉峪关内城分两次建筑的。第一次是明洪武五年（公元1372年）宋国公冯胜略定河西，“筑以土城周二百二十丈，高二丈余，阔厚丈余。址倚冈坡，不能凿池。东西两门各有月城旋以此关，为紧要门户”（《肃州新志》）。内城的平面为西头大、东头小的梯形，像一个大斗。内城西墙长166米，东墙长154米，南北墙各长160米。城墙六米以下为黄土夯筑，基阔6.6米，顶宽2米。这就是洪武五年修筑的土城。

　　第二次修筑是明正德元年（1506年）八月，兵备副使李端澄，按照先年所筑关城的样式、规格监修起内城东西二楼，次年二月落成。东西二楼就是现在屹立内城之上的楼阁，当时的碑文形象地描写为“磨砖砌就鱼鳞瓦，五彩装成碧玉楼。”同时，修建了官厅、夷厂、仓库等附属建筑物。原关城内存有明代《嘉峪关碣记》碑一块，详细记载了李端澄监修两座楼和关城内建筑之事。

　　现在，城墙高9米，垛墙1.7米，总高10.7米。6米以上的3米是后筑的，外侧用土坯垒砌，中间填以砂土混合黄土。少数增高的墙身也有夯筑的。内城有东西二门。门洞深20.8米，宽4.2米。门洞基础和地面均用石条衬砌。两门均安铁皮包钉黑漆双扇门。城头建有大楼两座、敌城两座、角楼四座。内城有游击将军府、井亭等建筑。