詳細不明。城主は山上氏。

山上城は山上館の東隣にある丘陵に築かれている。

館との間は堀跡とも考えられる一段下がった道によって区画されているだけである。 基本的に単郭の城で、西から南面に対して土塁が巡り、東側にも一部土塁があり幅広になっている。南東部が開口して虎口になっており、一度右に折れて入る構造になっている。

東へ続く尾根に一条の空堀があり、そこから竹林となって平坦地と段が付いているが、堀や土塁などは見あたらない。

山上集落にある「休養センターやまびこ館」が目印。その南にあるグラウンドが山上館跡で、道路を挟んで東側にあるのが山上城。