黄山宫位于兴平城西30华里处，马嵬镇之北坡上。其地古称黄山，汉惠帝二年（公元前193年）就山势建庙宫，供老子，成为道教早期活动的地方。唐太宗李世民因与老子同姓，自认是老子后裔，改黄山宫为老子宅，大加修治，并提倡道教。唐高宗乾封元年，进封老子为“太上玄皇帝”。安史之乱后，唐玄宗从四川回长安途经马嵬时去黄山宫烧香，并在院内亲手栽植了一棵槐树，至今已有1200年。明清两代对此处也多有修建，规模宏大，香火旺盛。清同治元年（1861年）陕西回民起义军攻打兴平城，黄山宫被战火焚毁。后周围群众捐款进行了部分修复。
    据《东方朔传记》载，建元三年（公元前138年）汉武帝穿便服出游，北至池阳，西到黄山宫。《三辅黄图》也记载：“武帝微行西至黄山宫也”。传说武帝很孝，其母有病，他曾在黄山宫为母要过药。据王莽传记载：王莽篡位时，讹言黄龙堕死黄山宫中，百姓奔走往观者有万数。到了唐代，唐太宗李世民因与老子同姓，自认是老子的后裔，改黄山宫为老子宅，大加修治，并提倡道教。唐高宗乾封元年，进封老子为“太上玄皇帝”。唐玄宗开元二十四年，视道士为宗室，二十九年建玄元皇帝庙于各地。安史之乱后，唐玄宗从四川回长安途经马嵬时去黄山宫烧香朝拜老子，并在院内亲手栽植了一棵槐树，今已1200多年，成为文物。明、清两代多有建修，规模宏大，香火旺盛。从坡下建前殿，沿台阶而上，庙庙相通，直到中洞，黄山之东西两侧亦有几处小庙，曲径通幽，林荫遮地，甚为清静。黄山宫与楼观台隔渭河南北相望，曾称其为“北台”，每年香客先朝楼观台，后朝黄山宫。清同治元年(1861)陕西回民起义攻打兴平，黄山宫被回民义军放火烧毁。同治十二年(1873)兴平群众捐款复修东西两侧。光绪三十年(1904)兴平、乾县、武功周围群众捐款重修，建有山门、二门、钟楼、鼓楼、卷棚、玉皇殿、三清殿、老君洞，靠山崖半圆形排列十六个窑洞，各塑神像。1954年拆除，大部分庙殿移盖学校。“文化大革命”中，神像全被砸毁，后来窑洞逐渐倒塌。1980年后有一姓魏的道人居住。近年来群众捐钱修中洞，塑老子泥像，盖三间瓦房，供玉皇，周围有善男信女1000余人，每年农历二月十五日赶庙会。