小南山遗址是新石器时代遗址，位于黑龙江省饶河县南端乌苏里江西岸的小南山东坡上。
1971年和1991年进行两次发掘。发现墓葬1座，系二人合葬墓，为土坑竖穴式，仰身直肢葬。墓0-土有玉器、石器、牙坠饰等随葬品，玉器有块、环、珠、斧、矛、匕、簪等60余件。石器以打制为主，有矛、镞、刮削器、尖状器，还有少量磨制石器斧、镞。陶器主要有罐、钵两种，多数为素面，有少量方格拍印纹、刻划纹、篦点戳印纹。从玉器特征看，遗址的有些特征与依兰县倭肯哈达遗址近似，且与红山文化有一定的文化联系。
2019年，小南山遗址列入第八批全国重点文物保护单位。