築城年代は定かではないが永禄年間(1558年〜1570年)に本庄新左衛門統綱によって築かれたと云われる。
その後は田北相模守鎮周が城主であったが、天正6年(1578年)山田有信の籠もる日向国高城攻めで先陣を切り討死した。鎮周のあとは吉弘氏より養子となった田北鎮生が継いだ。
甲ノ尾城は標高220.6mの甲尾山に築かれていた。現在山頂は甲尾山公園となっており山頂まで車で登ることができる。
山頂東端の最高所から西へ向かって段々と曲輪が連なっており、北西下にはl字の横堀も残されているようであるが、夏草が生い茂っており、遺構はほとんど確認できなかった。
日豊本線中山香駅の北に聳える甲尾山が城跡で、北側の県道655号線側から車道が付いており山頂に駐車場がある。
最寄り駅(直線距離)