築城年代は定かではない。文治4年(1188年)平武蔵守知重の子、平隠岐守重頼が築いたとの伝承がある。

嘉吉の乱で将軍足利義政を謀殺した赤松満祐の子赤松教康が島津氏を頼って志布志へ逃れ、以後四代にわたって松山に住んだという。

永禄元年(1558年)飫肥城主島津豊後守忠親は平山越後守忠智を松山城主としたが、永禄2年(1559年)忠智は志布志へ赴く途中に肝付兼続に討死し松山城は肝付氏に奪われたが、天正5年(1577年)島津氏が取り戻し市来氏が地頭となった。

城は菱田川と松尾川が合流する地点の北東の山に築かれており、本丸・二の丸・五兵衛城・八幡城から成る群郭式の城郭である。

本丸と東にある二の丸の間に空堀が残る。 五兵衛城・八幡城がどこに位置するのかわからないが、鹿児島県埋蔵文化財情報データベースによれば、本丸の南にある松山神社とその南の丘陵をその領域としている。 松山神社とその南の丘陵頂部には東側面に対して土塁状の高まりがある。これが城郭遺構かどうかはわからない。

道の駅松山が目印でその南西に城山総合公園があり、その駐車場が利用できる。