据《昭萍志略》载：纯阳观始称庵，宋时依岩结茅，及明复以瓦。天顺年间(1457～1464)，知县王施率邑人王廷兰在此建纯阳殿。武宗正德九年(1514)知县胡佩又增建钟鼓楼。万历二十四年(1596)知县增建避尘轩、濯缨亭。清乾隆三十六年(1771)知县王鉴信佛，并将纯阳殿改称横龙寺。乾隆四十八年(1783)，知县胥绳武于此建四奇亭、沈流桥于寺后。至道光(1821-1850)重修，咸丰(1851～1861)又补葺，成前后两栋(即两庵)，布局统一，结构精巧，中间建有别具一格的18拱长廊，连接上下两庵，其建筑形式精细独特。内供佛像，香火不断。历代文人学士，多有题咏。解放前夕，横龙寺衰败，混乱杂驳。至1947年，横龙寺仅有一个和尚，无法管理，便将寺院及其附属田地、山林全部出卖给道教徒李天泰、刘阳映等18名道人。从此，便由道人管理，并改寺庙为道观，即今纯阳观。解放后，纯阳观一度衰落，道人寥寥无几，特别是“文革”期间，神像被毁，道人都被逐出，纯阳观先后被市郊区农业中学、市商业局疗养院、萍乡铁路部门所占。直至1984年，萍乡市人民政府协同各方落实宗教政策，才又把纯阳观交由道人管理，并确立为萍乡市重点文物保护单位。1986年，老主持李天泰仙逝，其徒刘阳映嗣其业。几年来，刘阳映率领全观道众，募捐集资，节衣省食，加之自己那独特的医术，特别是治小儿麻痹等，有独到之处，远近闻名求医者络绎不绝。其为当地乡邻父老行医看病不辞辛苦的无量功德，感动了地方父老，共同为纯阳观恢复集资。同时，得到地方政府的大力支持和协助，历经3载，将纯阳观修葺一新，已于1989年正式对外开放。
修复后的纯阳观，十分壮观。山门上 书：“欲寻古迹休疑僻，试饮灵泉亦有缘”。进山门往里，为第一殿，名曰“灵宫殿”，内供王灵官。“灵官”生得凤嘴银牙，赤面三目，手持金鞭，脚踏风火轮，其形貌英武逼真。道教谓之“统百万貔貅之神将”，又谓“开山护法大师”。其像高近2米。“灵官”右边有逍遥门，左有云集门。过逍遥门，有一井，名曰“天井”，是纯阳观一大景点。井中泉水冬温夏凉，长流不断，与门外清泉相通。井的四周有石刻曰：“倚槛会真帝，临池识化机。流水天然起，游鱼自在缘。鉴开天一色，沼净月孤园。活泼宜观水，飞腾欲问龙”。道出了天井特色。过天井，是纯阳殿，内供“纯阳演正警化孚佑帝君”，即吕洞宾像，道教奉为祖师。纯阳殿，便是纯阳观别具一格的“18拱长廊”(现存16拱)。每拱长宽各丈余，由下往上，步步升级，很有特色。穿过长廊，便到纯阳观上栋殿宇，上栋有两层殿宇和道众单房、老主持祖堂等。其首殿曰“慈航殿”，内供“大慈大愿观世音菩萨圆通自在天尊”，或谓“慈航道人”，故曰慈航殿。再往里走，便是观内最后一层大殿，名曰“三清殿”。内设“清微天宫”、“禹余天宫”、“大赤天宫”三大神龛，神龛下分别供奉玉清元始天尊、上清灵宝天尊、太清道德天尊。其像高2米，庄严肃穆，栩栩如生；其殿雄伟壮观，气势磅薄，殿顶为立体八方莲花圆顶，两旁配有“天窗”对“地池”，其建筑形式别具风格。三清大殿之后，依岩有一古洞，可容上百人。如今，纯阳观正以崭新的面貌，在迎接着五洲四海的香客及游人。
江西萍乡市横龙洞纯阳观，现在是一座静雅的坤道院，坐落在江西萍乡城西门外5里处。这里群山叠障，幽僻奇绝，洞四周青翠环绕，内有清泉纵地潜行，涓涓泉水清澈透底，透入阶下而为池。虽不能与遐迩闻名的三山五岳媲美，但以独有的自然 景和别具风格的建筑，亦吸引着成千上万的香客游人。