築城年代は定かではないが鎌倉時代末期に八田知家によって築かれたと云われる。
八田氏は常陸国久慈郡八田発祥で宇都宮宗綱の子知家が八田氏を名乗ったことに始まるが、八田知家は小田氏の祖となり、小田城は小田氏累代の居城となった。
南北朝時代の城主は小田治久で、暦応元年・延元3年(1338年)北畠親房は吉野から海路常陸国へ入り神宮寺城に籠ったが、佐竹氏に追われ、阿波崎城に逃れるも再び佐竹氏におられて小田城に入った。
暦応4年・興国2年(1341年)足利尊氏が派遣した高師冬は小田城を攻めたてるが容易に落城しなかったが、小田治久は高師冬の和平交渉に応じて小田城を開城し、北畠親房は関城へ逃れた。
戦国時代末期の城主小田氏治は、拡大する小田原北条氏と越後上杉氏、またそれに対抗する佐竹・多賀谷・結城などの狭間にたたされ、幾度と無く小田城を奪われては、土浦城へ退き、また小田城を奪い返しては奪われることを繰り返していたが、永禄12年(1569年)手這坂の合戦で大敗を喫し、さらに真壁軍に小田城へ先回りされ奪われた為、氏治は土浦城へ退き、以後小田城へ帰参することはなかった。