築城年代は定かではないが応仁年間から文明年間に蒲生貞秀によって築かれたと云われる。

音羽城を舞台とした戦は三度あったと伝えられ、明応5年美濃の斎藤利国が京極氏とともに佐々木六角高頼を攻めたとき。文亀2年(1502年)佐々木六角氏の家臣伊庭貞隆が主家に背くと、六角高頼は音羽へ逃げ、貞隆がこれを追って音羽城を攻めたとき。 そして、大永2年(1522年)宗家争いで貞秀の孫秀紀と叔父の高郷が争い、高郷は佐々木六角氏の援軍を得て秀紀を音羽城に攻め、3年の籠城を経て降伏したときである。

この最後の戦いによって蒲生高郷が中野城を拠点としたため、以後音羽城は廃城となったといわれる。

城は猪の鼻ヶ岳より北へ派生した尾根の先端に築かれている。 現在は音羽山公園となっており、ただっぴろい平坦地があり、南側の庭園跡付近に土塁の残存と井戸跡が残る。北西部には出丸があって草むらの中に神社がある。

ところで「近江の山城」によれば、この広い平坦地には北側に本丸、二の丸があったそうであるが、公園の造成や溜め池の堤防などの工事で土砂が大量に採取され今ではまったくその様子が伺えない。さらに公園の東側に南北に掘られている横堀状のものは「トロッコ道」で城の遺構ではないとのことである。つまり、現状音羽城の遺構としてはほとんど見るべき所がない。

県道182号線沿いに道標があり、公園内に駐車場がある。