築城年代は定かではないが永正11年(1514年)以前に築かれていたとされる。 永正11年(1514年)伊達稙宗が山形へ侵攻し長谷堂で最上軍と対し、これを敗って家臣小梁川親朝に守備させたという。
文禄3年(1594年)には最上四天王の一人志村光安が城主となる。 慶長5年(1600年)関ヶ原合戦で上杉景勝は東軍に属した最上義光を攻める為に、直江兼続を主将とした大軍を米沢から発した。対して最上軍は各出城を破棄して兵力を集中させることを目指す。しかし中には畑谷城主江口光清のように敵を目前に城を明け渡して退く事を良とせず、討死することもあった。畑谷城を落とした直江兼続は長谷堂城の北にある菅沢山に本陣を置き対峙する。緒戦において上杉軍は最上軍を蹴散らし戦果をあげたが、その後は最上軍の夜襲やゲリラ戦に悩まされ持久戦となった。そうこうしているうちに中央では徳川家康の東軍が勝利し、その知らせは最上・上杉両軍に知らされ、兼継は退却する。その後最上義光は庄内にも出陣して尾浦城・酒田東禅寺城などの上杉氏の諸城を攻略、関ヶ原合戦後には五十七万石の大名となった。
この戦いの後、志村光安は酒田亀ヶ崎城で三万石の城主となり、かわって成沢城主坂紀伊守光秀が一万三千石で城主となったが、元和8年(1622年)最上氏が改易となると廃城となった。
城は山形平野の南西の端にある独立丘陵に築かれている。主郭は山頂にあって周囲は帯曲輪が取り巻き南東の尾根に多くの曲輪を配している。山の麓には水堀が巡らされていたといい、その一部が発掘復元されている。
大河ドラマの影響はさすがといった所でしょうか、普段中世城館では見慣れない方々がたくさん登っています。城跡もそれに応じて良く整備されています。大河ドラマが終ってもこれが続いてくれるといいのですが、数年先には旗が朽ちて倒れていない事を望みます。