暦仁元年(1238年)大江時広によって築かれたと云われるが定かではない。 時広は大江広元の次男で長井氏を称した。

後に伊達氏の本拠となり伊達政宗もここで誕生した。 伊達氏はここを拠点として政宗の時代に勢力を拡大するが豊臣秀吉に臣従し天正19年(1591年)陸奥国岩出山城に移封となる。

伊達氏移封の後、会津百二十万石で入封した蒲生氏郷の家臣蒲生郷安が入城する。 慶長3年(1598年)蒲生氏郷が亡くなり秀行の代になると蒲生氏は下野国宇都宮に移封となり、かわって越後国春日山城より上杉景勝が会津に入封しその家臣直江兼続が城主となる。

関ヶ原合戦の後、上杉氏は西軍に組したため米沢三十万石に減封となり上杉氏が米沢城に入封し以後明治まで続く。