解放前，小黄村属高增乡第二保，解放初仍属高增乡，1953年建政时属小黄乡，1956年合作化时按团结互助之精神将该村命名为“团结农业生产合作社”，1957年属高增片，1958年属丙梅公社，命名为团结大队，命名为团结大队，1961年属小黄公社，仍称团结大队，1981年地名普查时，因与高岑公社团结大队同名，经协商后上报县人民政府审批更名为小黄大队，1984年8月属小黄乡，改称为小黄村民委员会。
1992年撤区并乡建镇后属于高增乡，仍称小黄村民委员会。