古为淮夷地，尧封禹为夏伯，始邑于此，名夏丘。
西汉置夏丘县。
唐置虹县。
清康熙十九年（1680），泗州城沉没后，州署于乾隆四十二年（1777）移治于虹县，州县合一，仍为泗州，虹县降称虹乡。
1912年中华民国成立后，废州为县，称泗县，直属安徽省。
1949年4月，恢复泗县建制，属皖北行署宿县地区。
1952年4月12日，属安徽省宿县专区。
1956年1月12日，属蚌埠专区。
1961年4月13日，属宿县专区。
1971年3月29日，属宿县地区。
1979年2月27日，属宿县行署。
1999年8月，属宿州市。