1947年4月，在此进行了著名的“羊马河战役”，全歼胡宗南部队十五师八十五旅4700余人，活擒代理旅长麦宗禹。
1958年，人民公社实行政社合一，成立羊马河大队，因大队部驻地羊马河村而得名；1984年，，改变“政社合一”，公社改为乡（镇），设置乡政权，乡下为村，设立村民委员会，村下设村民小组，羊马河大队改为羊马河村民委员会；2014年12月26日，羊马河村委会、新庄库村委会、王家庄村委会合并为羊马河村委会。