上山村：清代属十四都，民国时期为十保，1956称凡山高级社，1961年称上山大队，1984年政社分设时，置上山村委会；上凡村：清代属十四都，民国时期为十一保，1956称凡山社，1961年称上凡大队，1984年政社分设时，置上凡村委会，1992年5月“撤扩并”时，撤凡塘乡建制后，改属清港镇。
2018年8月22日行政村规模调整，根据玉政函〔2018〕93号文件，撤销上凡村、上山村2个村村民委员会，将原2个行政村的辖区进行合并，设立上凡村村民委员会，办公地点设在原上凡村。