詳細不明。城主は山上氏か。

山上城IIは広徳寺のある山塊から舌状に東へ伸びた丘陵の一つに築かれている。谷を挟んで北側には山上城Iがある。一般的に甲賀地方には方形に近く土塁を伴った曲輪を持つ城館が多いが、この山上城IIは堀も土塁も見あたらず、切岸加工と削平のみである。

山上城IIは東西二段の曲輪があり、東下から南側にかけて帯曲輪が巡らされているのみであるが、切岸や削平はしっかりしている。