明朝嘉靖年间属惠化乡；清朝康熙年间属惠化乡；民国时期属余界乡；1949年5月属余店区；1956年为余店8社，属余店区合作乡；1958年成立人民公社，为8大队，属七一公社合作管理区；1959年为8大队，属余店公社合作管理区；1961年2月恢复区（镇）建制，为8大队，属余店区合作公社；1969年更名为横山大队，属余店区合作公社；1975年2月撤区并社，为横山大队，属余店公社；1980年更名为西横山大队，属余店公社合作管理区；1983年底设区建乡，更名为横山村，属余店区西余店镇；1987年9月撤区并乡，为横山村，属余店镇至今。