築城年代は定かではない。永正10年(1513年)長尾為景が福王寺彦八郎に宛てた書状のなかに登場する福王寺要害が矢筒城と比定されており、初見とされる。
永禄年間(1558年〜1570年)にはこの辺り一帯は島津泰忠の本領となり矢筒城はその本城であったとも伝えられるが、同時期に福王寺氏も健在であり両者の関係は不明である。
天正10(1582年)織田信長の軍勢が信濃へ侵攻すると、武田勝頼の要請を受けた上杉景勝は長沼城へ援軍を送っているが、このとき上杉の軍勢が集結したのがこの矢筒城であった。
矢筒城は八蛇川に面した比高50m程の独立丘陵に築かれている。現在は町指定史跡となり公園として整備されている。
西側にある山頂から東へ伸びた尾根に曲輪を展開しているが、遺構は山全体に拡がり、南麓には居館があった。切岸は全体的に高くないものの所々に石積がある。山城の入口部分である南の山腹に横堀があり、遊歩道に沿って登っていくと東端から北斜面に竪堀が落ちている。