隋唐为室韦族居住之地，辽、金为泰州辖境，元属中书省泰宁路，明属奴儿干都司朵颜卫，清初为科尔沁蒙古十旗的札赉特旗游牧地。
清末，清光绪三十二年（1906），黑龙江将军辖区设置大赉厅后，隶属大赉厅管辖。
清光绪三十三年（1907），在嫩江西岸设置哈拉霍硕(今泰来县城东北部)屯垦局，管理北洋陆军退伍兵屯垦事宜。
清宣统元年（1909)撤销位于江东多耐站的武兴设治所，并入哈拉霍硕屯垦局，管理杜尔伯特、扎赉特两旗荒务，改称杜扎两旗屯垦局。
中华民国成立后，1913年11月19日，批准撤销杜扎两旗屯垦局，于泰来镇设置泰来设治局，属黑龙江省管辖。
翌年6月，将原属大赉县的塔子城划归泰来设治局管辖。
1917年1月1日，将泰来设治局升格改设泰来县，列为三等县，县署驻泰来镇，隶属龙江道。
1927年5月，将泰来县嫩江江东地区划出设置泰康设治局。
1929年2月，裁撤龙江道，改由省直辖。
东北沦陷后，初隶黑龙江省，1934年12月划归龙江省管辖。
1945年“九三”抗日战争胜利后，划归嫩江省管辖。
1949年5月撤销嫩江省，划归黑龙江省管辖。
1954年8月设立嫩江专区，隶属嫩江专区。
同年10月，将龙江县第十区(九河村除外)划入改设第十一区。
1960年5月至1961年10月，嫩江专区一度撤销时，曾划归齐齐哈尔市领导。
1984年12月15日国务院批准撤销嫩江地区，从1985年1月1日起划归齐齐哈尔市领导。
名称沿用至今。