永徳3年(1383年)大極兼義によって築かれたと云われる。 兼義は斯波頼兼の子直家の六男で成沢の地に封ぜられ、はじめ泉出城を築いて居城としたが、すぐに成沢城を築いて居城を移したという。

天正6年(1578年)上山城主上山満兼は伊達輝宗に通じて山形へ侵攻する。この時の成沢城主は成沢道忠で、最上義光は伊良子宗牛という老将を成沢城へ送り込み、籠城してけっして撃って出ないように申しつけた。 義光は援軍として柏木山へ陣を進め、伊達・上山軍も成沢城に押えを置いて柏木山へ陣を進めた。両軍の先陣が松原で入り乱れて合戦が始まったが、柏木山付近に伏せていた最上方の鉄砲隊が伊達氏の旗本衆目掛けて撃ちかかると伊達・上山軍は乱れ、最上方の野辺沢能登守・氏家尾張守の軍勢がここぞとばかりに押し込むと支えきれずに上山城の惣堀まで退いた。これを柏木山合戦という。

城は須川の東岸、上山方面から山形平野への入口を押える位置に築かれている。

八幡神社の奥の院のある南の峰が本丸、馬頭観音の建つ北の峰が二の丸で、その中央から西へ下りる道が大手という。山全体に削平地が広がっている。二の丸の東側に下りた所に横堀が残ってる。

城山の北側から東側へ回り込む道を進むと成沢城址公園の入口があり駐車場も完備している。