古为西羌地，西汉末王莽置西海郡，治龙夷城（今三角城）。
从南北朝至隋朝先后为羌人鲜卑族吐谷浑(tǔyùhún)所据。
唐、五代时属吐蕃王国。
宋时为唃厮啰(ɡūsīluō)所占。
元时，归吐蕃等处宣慰使司都元帅府辖。
明、清后，为蒙古族土默特部、喀尔喀部、厄鲁特等部落的游牧地，均系王公、千户政教合一的部落制。
1937年，设海晏设治局。
1943年，升局为县。
1950年10月，海晏区行政委员会成立，暂属湟源县管辖。
1951年5月，恢复海晏县建制，为省直属县。
1952年9月，改为海晏藏族自治区。
1953年12月，又复为海晏县，隶属于海北藏族自治区（1955年5月20日改为海北藏族自治州）。
1955年6月，改为海晏县人民委员会。
1968年3月，改名为海晏县革命委员会。
1981年4月，恢复为海晏县人民政府。