築城年代は定かではないが神保長職によって築かれたのがはじまりと云われる。
天正13年(1585年)羽柴秀吉による佐々成政攻めで、秀吉が白鳥城に本陣を置くと前田氏の家臣片山伊賀守が白鳥城より大峪城へ移り出城となった。この時同じく前田氏の家臣岡島一吉が安田城へ移っている。
大峪城は現在の五福小学校の地に築かれていた。小学校の校舎のある辺りがやや高くここが本丸跡である。古城図によれば、本丸の東に堀を挟んで二の丸があり、それを取り囲むように三の丸。南は神通川が濠となっていた。発掘調査により本丸の東下に堀と土橋が検出されている。
2016年に五福小学校は別の場所に移転し、跡地は「五福芝生スポーツ広場」として整備された。本丸とされる部分の周囲は土塁状の高まりを残しているが、東側の土塁は現存のようである。