大桑郷の領主として最初に登場するのが山県流大桑太郎という武士である(大桑城関係年譜より)。美濃山県氏の庶流であろうか、時期は建久年間(1190-99)とされる。

承久三年(1221)の承久の乱では山県氏は後鳥羽上皇方に付いており、大桑太郎もそれに従ったのであろう。乱後、大桑太郎の所領は没収され、代わって鎌倉方として活躍した甲斐の逸見又太郎義重が領主となって入部した。この頃に城が築かれたとされ、逸見氏数代大桑城に居住するとある。

応永の頃(1394-1427)美濃国守護土岐頼忠の子頼名とその子頼重が当地に住み、大桑氏を称した。また、頼忠の孫で守護の持益も一時大桑に住したという。

明応五年(1496)、守護土岐政房の弟定頼が大桑兵部大輔を名乗って城主となり、城を大いに修築した。この年に起きた船田合戦では兄政房方として参陣、大いに戦功をたてた。

守護土岐政房、次代の政頼(頼武)の美濃国内は土岐氏の守護権力をめぐる内紛で争いが絶えず、守護代斎藤氏、小守護代長井氏そして近隣の朝倉氏、浅井氏、六角氏、織田氏を巻き込んでの騒乱状態が続いた。

享禄三年(1530)、弟頼芸との争いに劣勢となった政頼は越前朝倉氏を頼り、その支援を受けて再入国を果たすと大桑城を本拠として頼芸との争いに備えたが、この年病没した。

天文四年(1535)、頼芸は大桑城に移り、翌年正式に美濃国守護に任ぜられた。その後、頼芸を支えてきた斎藤道三との仲が悪くなり、天文十一年(1542)に尾張へ追放されてしまう。また大桑城の土岐政頼の子頼純も越前に追放され城は道三によって落された。

天文十三年(1544)、頼芸は宿敵であった頼純と和し、協力して美濃へ入国、大桑城に入ったとされる。

天文十五年(1546)、頼芸、道三が和睦する。頼芸引退して頼純が守護となる。

翌十六年(1547)、道三は頼芸と頼純が鷹狩に出た隙をついて大桑城を攻め落としてしまった。頼純はこの時に討死したとも、また道三によって謀殺されたとも言われている。頼芸はまたもや織田氏のもとへ逃走した。翌年、道三と織田信秀の間に和議が成り、頼芸は大桑城に戻ったとされる。

天文二十一年(1552)、斎藤道三が三度大桑城を攻め落とし、土岐頼芸を追放して名実ともに美濃の主となった。大桑城はこの時をもって廃城となったとされる。