汉属南埜县地。
三国吴属南安县地。
晋太康元年（280）属南康县地。
唐天宝元年（742）属信丰县地。
五代南唐属龙南、信丰县地。
清道光二十八年（1848）划龙南县大龙、新兴、太平和信丰县镇南、杨溪、步口、回戈7堡为分防地，筑观音阁城，隶赣县后营，次年改归横冈营统辖。
光绪二十九年（1903）析龙南县大龙、新兴、太平和信丰县镇南、杨溪、步口、回戈7堡置虔南厅，以处古虔州之南得名，治观音阁，隶赣州府。
1912年属省。
次年改厅为县。
1914年属赣南道。
1926年复隶于省。
1931年属国民政府陆海空军司令部南昌行营党政委员会。
1932年属第十三行政区。
1933年属赣南政务专区，次年改属第九行政区。
1935年属第四行政区。
1949年8月属赣州分区，11月属赣西南行政区。
1951年6月属赣州专区。
1954所属赣南行政区。
1957年虔南县改称全南县。
1958年墩头乡划归龙南县管辖。
1964年属赣州专区。
1970年属赣州地区。
1998年12月属赣州市。