民国21年（1932年）与临洮县分置，属康乐县第一区，1958年9月设立虎关人民公社，简称虎关公社，公社下设阿羊沟大队，11月21日撤销康乐县建制，并入和政县，虎关乡仍为人民公社，上沟村和吓沟村仍合称为阿羊沟大队，1961年12月15日，国务院批准恢复康乐县建制。
1983年4月25日至7月31日将人民公社改为乡人民政府，阿羊沟大队分为两个村吓沟村，上沟村。
1958年以前曾属于康乐县，1958年后为虎关公社阿羊沟大队，1983年以后更名为上沟村，一直沿用至今。