築城年代は定かではないが康平年間(1058年〜1065年)頃石川有光によって築かれたと云われる。 石川氏は前九年の役で源頼義に従って源頼遠・有光父子は安倍氏と戦い、父頼遠は戦死したが有光はその功によって所領を得て、白川郡藤田郷に藤田城を築いて居城とした。しかし、さらに水利の良い場所を求めて城を築き居城としたのが三芦城である。
鎌倉時代には石川郡・西白河郡・東白河郡の一族を領し、分家して一族を配した。このため、惣領とはいっても強力な力を持っていなかったようである。
南北朝時代には、はじめ北朝方として参戦、石川時光の頃に南朝方に転じたがその後北朝方に戻った。建武2年(1335年)には白河結城氏の居城白川城を攻め落としたが、正長元年(1428年)石川義光は結城氏朝によって攻め殺された。
戦国時代には周辺の戦国大名から攻め込まれ、25代石川晴光は伊達晴宗の四男を養子に向かえて家督を譲った。天正18年(1590年)豊臣秀吉による小田原征伐では援軍を派遣せず、奥州仕置によって改易となり、その後は伊達氏の家臣として角田一万二千石を領して移った。
城は今出川の北西にある愛宕山の東の峰、通称八幡山に築かれている。
主郭には現在古和気神社が祀られており、神社の背後西側のに高土塁が残る。主郭には狼煙台もあったという。 主郭の南下にあるのが溝井郭、西下にあるのが二の丸、西にある堀切を隔てて西館がある。この西館は隠居城と伝えられている。