三国时，舟山属吴国扬州。 西晋时，南北短暂统一，舟山属扬州。 南朝齐时，仍属扬州会稽郡。 隋代重置郡县两级行政，舟山属会稽郡。 唐代增设道行政区，舟山属江南东道明州，城名翁山。 宋代改道为路，舟山属两浙路明州，城名昌国。

南宋舟山属两浙东路庆元府。

元代时设置行中书省，舟山属江浙行省庆元路。

明代调整行省边界，舟山属浙江宁波府，城名定海。 清代时舟山仍属浙江宁波府。