天慶5年(942年)源経基によって築かれたのが始まりとされ、太宰大弐橘公頼の子筑前守昌頼が城主となった。その後、七代続いたが仁平元年(1151年)源為朝によって攻め落とされ城主頼行は自害し、草野氏が城主となった。

文治元年(1185年)源平合戦の時、緒方惟義の一族緒方九郎が平家に叛いて馬ヶ岳城に楯籠った。

南北朝時代から戦国時代にかけて小弐氏、大友氏、大内氏、毛利氏によって争われ、天正年間(1573年〜1592年)の城主は長野氏であったが、天正14年(1586年)豊臣秀吉による九州征伐で降り、豊臣秀吉が九州に下向したときには、その宿舎になったという。

九州征伐の後、豊前に入封した黒田孝高の居城となったが、孝高は中津城を築いて移り、元和の一国一城令によって廃城となった。

城は標高216mの馬ヶ岳山頂に築かれている。 馬が岳は東西二つの頂があり、西の峰が本丸、東の峰が二の丸という。

東の峰の二の丸は二段の削平地があり、東尾根に二条の堀切が残る。

西の峰の本丸は東西に長く新田氏表忠碑が建つ。東端から北へ伸びた尾根先には石祠がある。本丸から北側へ降りて行くと土塁が残り、さらに下へ降りた所に落ち葉で埋もれているものの堀切が残っている。

県道58号線大谷交差点を南へ曲った所に案内板があり、そこから南下した所に登山口がある。