唐开元时属富都乡。
北宋熙宁六年（1073）属富都乡德行里。
元时称小沙岙，属金塘乡。
清康熙年间属定海县富都乡十图；道光年间置小沙庄；宣统二年（1910）设三益乡。
1934年设小沙、大沙2个乡。
1947年属小沙和大狮乡。
1953～1954年分设小沙、乐家、毛峙、大沙、青岙、西岙6个小乡。
1956～1957年，设小沙、大沙、毛峙3个乡。
1958年1月毛峙乡并入小沙乡；9月与长白乡合并设立小沙人民公社；10月大沙乡改设大沙人民公社。
1984年6月复设小沙、大沙2个乡。
1995年12月撤销小沙乡建小沙镇。
2001年7月小沙镇与大沙乡合并设立新的小沙镇。
2013年8月小沙镇与长白乡合并设立小沙街道。