三国吴置。

刘宋太初元年（453）属会州。孝建元年（454）属东扬州。大明三年（459）罢东扬州，以其地为王畿。临海郡属王畿。八年，罢王畿，复立扬州，扬州还为东扬州。前废帝永光元年（465），省东扬州并扬州。临海郡属之。

南朝梁，陈临海郡时属扬州、东扬州。

隋开皇九年（589），灭南朝陈，废郡，并临海郡各县入临海县，属处州（十二年改称括州）。

唐武德五年（622）以临海郡地置台州，治临海镇（浙江临海市）。开元二十一年（733）隶江南东道。天宝元年（742）复称临海郡。乾元元年（758）复称台州，隶浙江东道。此后反复改隶浙江东、西两道。