北魏太平真君七年(446)初建宜君县制时,县治设于原苻秦所置宜君护军之三堡镇(今耀县境)。西魏大统五年(539)宜君县治从三堡镇迁至今耀县石柱乡故县村,并设宜君郡治。唐武德七年(624),在太宗李世民的离宫之一的玉华宫(今属铜川市郊区)附近新设宜君县治。五代时期,梁出于军事需要,将宜君县城从玉华宫附近迁至交通战略要道——龟山,即县城现址。
据雍正《宜君县志》载:明景泰年间(1450),主簿季仲和开始筑城,因土质含石渣过多未成。明成化年间,县丞杨安依龟山之势,筑削为上下两城,城周围长5里3分,城墙内外砌石,墙高2丈5尺,城外壕深1丈。上城有1门,南向开。下城有2门,南门叫“保障”,北门叫“金阙”。
宜君县府,早在明洪武年间(1368~1398),由县丞王文辅修建,地址在下城西北角(今法院所在地)。明弘治年间(1488~1505)又经知县李相复增修。崇祯(1628~1644)时,李自成率农民起义军挥师南下,所到州县望风披靡,唯宜君县依龟山之势,负隅顽抗。农民军经三次攻城方破。山城悉毁于战火,县治迁往石堡村(今西村乡乡政府所在地)。清顺治十二年(1655),知县郑名于上城,重建县署,同时又分别于街西和街东北阙,新建参将,守备两个营署。康熙十七年(1678)九月知县贾有福捐助资金,兴废举坠,修整城池,建祠立庙,先后扩建县衙正厅3间,二堂3间。正厅之前,建有东厢房5间,西厢房6间,为县衙人员住宿。县衙有仪礼门,门东西两边各有1角门。西角门外是土地庙和班房,东角门外是牢狱和马房,仪礼门外向南是县衙大门。正厅后有房数间,属官舍。这些建筑几经变迁,今已无存。民国十一年(1922),封建迷信帮会四起,名目繁多,或叫“硬对”、“软围”,或叫“红枪会”、“锣锣会”,他们虽无明显纲领,但一致反对官府,抗粮,抗税,甚至有的进县府告状,以示反抗。再加上土匪杨谋子,张水楼等经常袭扰,县府迫于无奈,又北迁仓村(今归黄陵县)。民国十四年(1925),重迁返龟山。古城虽经历代王朝和民国多次修整,但至解放前夕基本仍为清时的旧颜,屋低街窄,巷道崎曲不平,经济文化均甚落后。
中华人民共和国成立后,宜君县城获得新生,40年来城市建设发展迅速。县城总体规划为8平方公里,到1989年已建面积达3平方公里,占总体规划的42%。建筑面积157855平方米,人均面积32.45平方米,人均居住面积8平方米。建成面积相当于解放前的26倍,等于民国时期36年建筑面积的479倍。今日的宜君县城,道路宽阔平坦,楼房林立别致,商店厨窗新颖,电灯电话畅通,集市贸易兴隆,真正成为全县政治、经济、文化、交通的中心。