秦属桂林郡地。
汉初属南越国地，元鼎六年（前111）为领方县地，属郁林郡。
三国吴元兴元年（264）为临浦县地，属郁林郡。
两晋时期介于领方、新林2县之间，属郁林郡。
南朝介于马平郡新林县和领方郡、安成郡之间，属桂州。
隋介于领方、安成2县之间，属郁林郡。
唐置宾安县，治今市境红水河畔，属羁縻纡州，此为今市境最早的行政建制。
宋庆历三年（1043）撤宾安县入忻城县。
此后，今市境属迁江县辖地，及至元、明、清和民国年间。
1949年中华人民共和国成立后仍属迁江县辖地。
1953年4月迁江县并入来宾县，今市境属来宾县辖地。
1981年6月析来宾县北泗公社和自治区直属企业合山电厂（今大唐桂冠发电有限公司）、合山矿（今合山煤业有限责任公司）置合山市，由柳州地区代管。
2002年改由来宾市代管。