犀牛塘位于浪平乡人民政府所在地的东面约0.5公里。
相传四百多年以前，这里是一个瑶族村寨，寨下是一口深塘，塘里住着一头犀牛。一个盛夏的早晨，天气闷热，犀牛要呼吸新鲜空气，先露出那只独角，独角伸出赵大爷家的神台下面，赵大爷以为是竹笋，用手扳不动，拿斧头去敲，犀牛感到疼痛，猛然翻身，整个寨子便陷了下去，不见踪影，只见一塘水，故名。
塘呈葫芦形，面积400平方米，深约50米。四周是起伏的土丘，土丘上，四时山花不绝，林木常茂。塘北面四五十米，便是黛色青山，绝壁临空，危峰嵯峨。每当天青水碧，那蓝天白云、山形树影倒映水中，构成一幅美丽的图画。偶而，大小鱼儿跃出水面，击起涟漪，波光潋滟，整个画画都动起来，美得令人陶醉。
地面并无活水注入塘中，塘水却自会盈枯，冬春之间，塘中水浅，有时还看到屋架。更为奇妙的是，塘水会变颜色。有时碧绿，有时淡蓝，有时浅黄，有时微红，有时薄墨，有时几年十几年才变一次，有时一年变几次，有时一个月也变几次。有时天不下雨，塘水却自然混浊。
解放后，塘边的土丘造林绿化；塘东面的缺口处，筑起一道大坝，蓄水灌田。塘面更宽，塘水更深，景色更美。