築城年代は定かではないが建久年間(1190年〜1199年)に下河辺政平によって築かれたと云われる。下河辺氏は藤原秀郷の後裔で下総国葛飾郡下河辺荘の発祥という。
政平の子の政義の時代から小川氏を称し代々続いたが、室町時代になると小川氏は衰退rする。享禄元年(1528年)小田政治は大掾氏への備えとして家臣の薗部兼泰を小川城主としたが、兼泰の子兼彦のとき、大掾氏との争いを避けるため娘を大掾慶幹のもとに嫁がせた。これに怒った小田氏は薗部氏を小川城から追い払い弟の小田左衛門尉を城主に据えた。天文15年(1546年)薗部兼彦は小川城の奪還に成功したが、元亀2年(1571年)に再び失い結城氏を頼った。
天正年間(1573年〜1592年)末期には佐竹氏の城となり茂木治良が在城したが、慶長7年(1602年)佐竹氏の秋田転封に従いこの地を去った。代わって出羽国角館より戸沢政盛が四万石で入部したが、戸沢氏もまた慶長11年(1606年)に龍子山城へ移り、最後は水戸藩領となった。
小川城は現在の小川小学校一帯に築かれていたという。 『茨城の城郭』によれば、小学校の南東側に本丸、北西側に二の丸、北東の小川公民館側に三の丸があったようであるが、現在は遺構はほぼ消滅している。
小学校の校門の中に標柱があり、その中に小川城の文字が見える。