西安小皮院清真寺位于古城西安市中心的小皮院巷内，东邻市政府大院(亦是明清陕西巡抚衙门所在地)。它以悠久的历史和为穆斯林培养出大批有成就的宗教学者而著称于世，并受到海内外人士的关注。至今，每逢礼拜时，八方信众来此礼拜祈祷，朗朗诵经声不绝于耳，宗教生活景象犹如当年。
据寺内原碑(已毁)和现存碑文记载，小皮院清真寺原名“真教寺”、“万寿寺”，又因其在化觉巷清真大寺(也叫东大寺)以北，且规模较大，亦称“北大寺"。据传，该寺兴建于唐末，宋徽宗(大观)丁亥年(1107年)，真教寺为长安京兆四坊旧有“清真寺”，是西安伊斯兰教最早建筑之一。
该寺敕建于元仁宗皇庆元年即公元1312年。据明太祖朱元璋洪武元年(1368年)岁次正月敕匾该寺(百字赞)和明万历三十九年至四十二年(1611—1614年)间重修寺碑记曰：“‘天方之一脉，肇于唐初，盛于大元，皇庆(仁宗)年间，以迄于今，历千余载。’为进士马士骐撰，其新野回回人也”(见马以愚《中国回教史鉴》100页)。
二十世纪三十年代末，该寺曾遭侵华日寇飞机的轰炸，所幸炸弹为哑弹，大殿才免遭厄运。在上世纪六、七十年代的“十年浩劫”中，寺毁殆尽，寺内历代牌匾30多面被毁，仅剩礼拜殿孑然危立。小皮院清真寺的牌匾在大殿立柱下有明太祖御制至圣“百字赞”的木质牌匾一幅，山门正中门楣和一进院二门内后檐上分别悬挂明礼部侍郎董其昌题写的“开天古教”匾和“敕赐礼拜寺”匾，北厅房檐下悬挂清嘉庆年云贵总督僧学谦题写的“六来堂”匾，大殿门内上方悬挂“钦若吴天”牌匾，大殿门内北侧上方悬挂“临下有慑”匾，大殿檐下悬挂“道贯古今”、“三畏四毋”匾，均由秦陇复汉军兵马总都督张云山题写。清光绪26年，庚子之役，慈禧与光绪从北京逃至西安，次年返京前为西安小皮院清真寺等挥笔题匾，慈禧手书“派衍天方”，光绪皇帝手书“教崇西域”，大殿中阁门上悬挂慈禧手书龙头“福”字匾。大殿左檐下悬挂民国29年国民政府行政院副院长白崇禧题写的“兴教建国”匾。
1980年以后，随着国家民族宗教政策的落实，寺院回到坊民手中，1990年，大殿被列为省级重点文物保护单位。依据《中华人民共和国文物保护法》“保护文物，人人有责”的原则。为了使祖先遗留下来的这一珍贵遗产不在我们这一代人中毁掉，经寺管会研究决定，根据现残存建筑，全面恢复原有面貌。在政府有关部门大力协助下，广大坊民慷慨解囊筹措资金，为修复寺院做出了不懈努力。从八十年代中期开始，历时近二十年，终于使古老的清真寺焕然一新，重放光彩。
总之，小皮院清真寺建筑古香古色，其风貌体现了我国古代劳动人民与阿拉伯民族在西安伊斯兰建筑上的艺术成就，与著名的北京牛街礼拜寺、广州光塔寺、泉州麒麟寺、西安化觉巷清真大寺、西安大学习巷清真寺等齐名中华。在平面布局以及建筑风格的处理上，除按宗教上规定的要求外，总体呈现出中国古代宫殿建筑形式，并吸收外来文化与地方特色相结合，是祖先为我们留下来的宝贵文化遗产，为研究中国伊斯兰寺院的建筑史提供了珍贵的历史实物。
西安小皮院清真寺建筑的全面恢复，是党和政府落实民族宗教政策的充分体现。目前，这座有着近千年历史的著名清真寺，正焕发着青春的活力，在寺管会一班人的领导下，将在宗教活动和民主管理方面迈开新的步伐。