築城年代は定かではない。奥州探題大崎教兼の六男がこの地に居を構えたのが始まりとされ、この人物が古川氏の祖とされるが詳らかではない。城主として伝えられるのは、大崎氏の家臣古川刑部持慧(もちさと)、古川弾正忠隆である。

奥州仕置によって大崎氏が改易となると、木村弥一右衛門が一時在城したが、大崎・葛西一揆の後は伊達政宗の所領となり、古川城には重臣鈴木元信が入部した。鈴木氏元信、重信、宗良と三代続いたが寛永年間(1624年〜1644年)に宗良が桃生群深谷に移封になり古川城は廃城となった。

古川城は古川第一小学校に本丸があったとされる。以前には土塁が残っていたようであるがそれも今は残っておらず、遺構はほぼ消滅している。

瑞川寺は鈴木氏の菩提寺で、古川城の搦手門を移築した山門が残っている。