西魏文帝大统三年(537)年,冯翊郡刺史王罴于县境中部筑合阳新城。隋文帝开皇十六年(596),将县治自故城迁至今址,迄今已历近一千四百年。明代,“高筑墙”之风大兴,英宗正统十四年(1449),知县董鉴役民重筑县城,时经年余始成。垣高二丈五尺,基阔四丈三尺,顶阔一丈二尺,东西宽二里二百八十步(实测1010米),南北长二里一百九十步(实测948米),周八里二百二十步。城垣每隔一段,向外突出一个马面,以利防守时监视外墙,防止攀登。城外有壕,以泄洪水。武宗正德六年(1511),知县张纶营建东、西、南、北城门,并筑南门城楼为双檐歇山式,余各门为双檐亭式,又在城外挖深一丈二尺、阔一丈五尺的外壕,壕外围筑土墙。世宗嘉靖三十年(1551),知县王纳策以青砖贴补城墙低薄之处,并于城顶周围加筑女儿墙1360垛。穆宗隆庆二年(1568),知县李希松重修城门,四门内外俱砌砖面。明末清初,各任知县为了抵御农民义军,营城固防从未间断。思宗崇祯五年(1632),陈箴复将城垣加高五尺。八年,范志懋增修城(即瓮城),使南外门向西,东外门向南,西、北外门向北,出入城垣须经过两道城门。东门日“雨粟”,南门日“阜财”,西门日“崇墉”,北门曰“归极”。清顺治年间,知县庄曾明加深城壕,叶子循增设栅门。康熙三年(1664)知县侯万里,乾隆十一年(1746)至二十八年知县朱依霍、许显森、梁善长均曾修缮城垣。同治年间,回民起义,各地筑城置寨,知县陆坤将北关泰山庙包入北瓮城内,并在泰山庙东西两侧各置一外门。至清末,合阳历代经营城垣13次之多。
民国24年(1935),县长谢子衡为了“防御”红军,修垛墙85丈及扩身墙340堵。抗日战争爆发后,敌机不时来合轰炸,县长张丹柏奉命于民国28年(1939)分派各乡丁壮及五十三师驻军,将城墙城门一并拆除,仅保留东北角一段。解放战争时期,县长周鸿疯狂反共,于民国35年(1946)冬至36年春,在旧城基上筑起高一丈二尺、基阔三尺六寸、顶阔一尺二寸的土围墙和城门四座(南曰“光华”,北曰“凯旋”,东曰“和平”,西曰“永定”)。县城解放时被拆除。
由于长期的自然经济状态和频繁战乱,县城建设发展十分缓慢。1948年3月合阳解放时,城内计有居民4615人,四条大街有店铺、作坊三十多家。仅有的一个县办手工业工场——合阳县民生工厂,职工10余人,年产值2万元,且濒临破产。
中华人民共和国成立后,特别是1978年中共十一届三中全会以来,县城建设不断出现新面貌。1980年,县基本建设局提出《合阳县城规划》初步方案。1984年,县城建设环境保护局委托陕西省测绘局第二测绘大队,对县城建设区及城区外围共5.4平方公里现状作了详细测绘。1985年,委托陕西省城市规划设计院绘制1985至2000年《合阳县城总体规划》(近期为1985至1990年,远期为1991至2000年),经县人民代表大会第十届第十次常委会讨论通过,陕西省人民政府批准实施。1988年,县城乡建设环境保护局制定《合阳县城市规划管理办法》,使城区进入依法建设轨道。至1990年底,完成解放路、东西大街、东西新街、北大街、泰山东路的修筑和排水、给水、照明、绿化等配套工程,东关延伸1公里,南关延伸2公里,城区南北长3.5公里,东西宽2公里,建筑占地面积由1984年的210公顷扩展到285公顷;城区10条大街格局井然,82条巷道错落有致,108国道穿越而过,共有机关、学校、工厂、商店661家,总人口由1984年的1.6万人发展到2.5万人,较解放初增加4.57倍,基本实现了总体规划的近期目标。