西汉始元二年（前85），以鄞县回浦乡置回浦县，置会稽郡东部都尉于回浦（今椒江章安），为台州最早的军事机构。都尉是管理武事、备海的军事机构，地位仅次于郡守。

三国时，临海郡设都尉，县设县尉，统领郡县之兵，协助主官管理军事。隋文帝开皇十一年（591），于大固山设临海镇(军事机构)，置正副将各1员，兵千余人。

唐初实行府兵制，台州属越州道。大历间（766～779），置子弟军约千人。光启三年（887），升台州为德化军。

宋代，州有禁厢兵雄节第6指挥营及威果第60营、厢兵崇节第31指挥营，还有牢城、壮城等营，将校有指挥使、副指挥使、都头、副都头、十将将、节级、虞侯等职。

元代台州路置万户府，下属州县立千户所。至大二年（1309）增设海道巡防千户所，至正十五年（1355）升为防御海道运粮万户府。万户府统兵3000～7000人，千户所统兵200～700人。

明洪武五年（1372），设台州卫指挥使司，有指挥使、指挥同知、指挥佥事、镇抚等官，操军无考，运军2891人，屯军2079人，辖左、右、中、前、后5个千户所及水军千户所。二十年二月，置海门卫指挥使司，操军无考，屯军683人，辖左、右、中、前、后5个千户所，及健跳、新河、桃渚3个千户所。六月，升松门千户所为松门卫指挥使司，旗军2025人，辖左、右、中、前、后5个千户所及隘顽、楚门2个千户所。设巡检司临海蛟湖、连盘，黄岩长浦，天台胡窦，仙居田寺，太平盘马、二山、河角、温岭，宁海越溪、长亭、铁场、蔓岙、窦岙。嘉靖三十四年（1555），台州知府谭纶招募台州子弟，组建“谭家军”。嘉靖三十八年（1559）四月，宁绍台参将戚继光自宁波率兵驰援台州，解桃渚之围，歼入侵海门、新河倭寇。九月，往义乌招募新兵，严格训练，建成英勇善战的“戚家军”。三十九年，戚继光改任台（州）、金（华）、严（州）参将，驻守台州（海门）。辖中军把总1人、陆军把总4人、哨官20人，陆兵4总（左、右、中、前营），有军兵2164人；水兵1支，有军兵1005人、战船40只。四十年，抗击倭寇，“九战皆捷”，台州倭乱平息。

清顺治三年（1646），置台州水师中、左、右3营，营设游击以下将领8人，兵3000人，中营驻定海，左、右营分驻各要口。十一年，置黄岩镇，设总兵1人，为浙江沿海三镇之一。十四年，改定海镇为宁绍台镇，驻府城（临海）。黄岩改设副将1人。次年，宁绍台温总兵移驻黄岩。康熙二年（1663），宁绍台温总兵移驻宁海，改为宁海镇总兵，右路水师总兵官调驻黄岩，辖4营，兵3400人。八年，改设黄岩协镇。十年，改宁海镇总兵为宁台总兵，驻黄岩，辖3营，兵2950人。十五年，撤销宁台总兵，改为水师提督，辖4营，兵3400人。十九年，复置宁台总镇，辖3营，兵2715人。二十三年（1684），宁台总镇改称黄岩镇。黄岩镇除辖镇标外，还管辖台州协城守营、象山协城守营、宁海营、宁波协城守营、太平营，共有经制兵10123人，其中马兵1012人、步兵9111人。雍正七年（1729），宁波协城守营改隶提督管辖，象山协城守营改隶定海镇，绍兴协城守营改隶黄岩镇。同治十二年（1873），黄岩镇移驻海门，改称海门镇。咸丰十一年（1861），太平军侍王李世贤进军台州，攻克天台、仙居，占台州府城（临海）、黄岩、宁海；指挥部设临海城内蓉塘巷陈宅(即太平天国台门)。次年，太平军撤离台州。光绪元年（1875），海门镇辖马步战守兵1427人。八年，设有防军，平时司内地治安，有防务移驻海门。二十三年（1897），海门驻军裁员额三成，二十九至三十二年，驻军裁员额四成。三十二年，驻台巡防队统领改为督带，按省编制分为6队，队设管带、队长、排长，每队队勇300人，共1800人。宣统二年（1810），驻军改编为陆师巡防队第7营。另有军装局、演武场等机构。