1949年8月，属萍乡县第四区的四维乡。
1950年8月，属麻山区辖三山、汶泉、桐田、横江、船形、江源、井冲7个乡。
1952年，属第六区辖三山、善洲、江源、高车、桐田、汶泉、横江、麻山、日马、井冲8个乡。
1953年撤日马，设新源乡。
1956年，设麻山、桐田、汶泉、船形4个乡，1958年，并麻山、桐田设麻山人民公社。
1960年，隶萍乡市麻山、桐田、船形3个公社。
1966年，三社合并为麻山人民公社。
1971年隶属湘东区麻山公社。
1982年，江口划归湘东镇，1984年，撤社建乡为麻山乡。
1985年，诗源划归湘东镇。
1993年7月，撤乡建镇为麻山镇，沿用至今。