殷商时期即有村落，称南麻地。
1644年始称南麻。
清康熙年间，南麻镇分属沂水县和蒙阴县。
1930年至1936年间除永兴官庄、田庄、北埠东、南埠东、侯家官庄、刘家大峪高堂峪属蒙阴县七区外，其余属沂水县八区。
1944年建县后为历山区。
1957年撤区建南麻镇。
2001年3月乡镇区划调整，沟泉镇撤销，将沟泉镇的沟泉、王家庄、许村、苍粮峪、仁里、雕崖、崮坡、祥峪、下高村、上高村、赵家庄、朱家庄、宋家庄、天井峪、核桃峪、红花峪、酸枣峪17个村划归南麻镇管辖。
2011年11月，原南麻镇区划调整为南麻镇和历山街道办事处。
2014年撤销南麻镇设街道办事处。