築城年代は定かではないが赤松円心による築城とも云われる。
白旗城の赤松円心が室山城に長男範資を置いて守らせたが、新田義貞の軍勢によって落城した。しかし九州へ逃れていた足利尊氏が再び大軍を率いて上洛すると、新田軍は白旗城の囲みを解いて退いた。
戦国時代には備前国三石城主浦上氏の重臣則宗が室山城主となった。 永禄9年(1566年)浦上政宗は姫路城主黒田職隆と縁組みを結ぶため二男清宗とともに室山城にいた所、龍野城主の赤松政秀によって急襲され政宗・清宗父子は討死し室山城は炎上して廃城となった。
室山城は南へ突きだした半島にあり、室津港を直接押さえる位置にある。
室山城は半島の一番高い所に本丸、北側に二の丸があったとされるが現状では明瞭な遺構は見あたらない。本丸の部分は宅地や畑となっており、道路脇に「室山城跡/遠見番所跡」の石碑があるのみである。二の丸は北側の公園の部分でその名もズバリ「室津二ノ丸公園」となっている。
二の丸公園の前に駐車場がある。
最寄り駅(直線距離)