天正9年(1581年)池田恒興によって築かれた。 天正8年(1580年)池田恒興は織田信長から離反した荒木村重の籠る花隈城を攻め落とし、その功によって兵庫の地を得て、その花隈城を廃し石材を転用して兵庫城を築いた。
天正11年(1583年)恒興は美濃国大垣へ転封となり、その後は羽柴秀吉の直轄地となった。 元和3年(1617年)尼崎領となると兵庫陣屋が置かれ、明和6年(1769年)には幕府直轄領なり大坂奉行所に属して与力や同心の勤番所として明治まで続いた。
明治以後、兵庫県庁が置かれ伊藤博文が初代知事となった。
城は現在の中央市場付近に築かれていたというが、今は何も残っていない。 新川の西側にあるキャナル・プロムナードに石碑と案内板が建てられている。