天正9年(1581年)池田恒興によって築かれた。 天正8年(1580年)池田恒興は織田信長から離反した荒木村重の籠る花隈城を攻め落とし、その功によって兵庫の地を得て、その花隈城を廃し石材を転用して兵庫城を築いた。
天正11年(1583年)恒興は美濃国大垣へ転封となり、その後は羽柴秀吉の直轄地となった。 元和3年(1617年)尼崎領となると兵庫陣屋が置かれ、明和6年(1769年)には幕府直轄領なり大坂奉行所に属して与力や同心の勤番所として明治まで続いた。
明治以後、兵庫県庁が置かれ伊藤博文が初代知事となった。
兵庫城はイオンモール神戸南の敷地に築かれていた。
イオンモール神戸南の建設にともなう発掘調査で石垣などが検出され話題となった。現在はイオンモール神戸南の北側入口付近や南の立体駐車場からの入口付近に石垣の展示が行われている。
また2024年6月現在、イオンモール三階の一角に出土遺物などが展示されており、これも是非見学していただきたい。