築城年代は定かではないが小山義政によって築かれたと云われる。
小山城主小山義政は下野国守護職にまで上り詰めたが、鎌倉公方足利氏満の不幸を買って小山追討軍が起こり、一度は降伏したものの、永徳2年(1382年)に再び挙兵して追討され、最後は粕尾城、櫃沢城に楯籠もって戦ったが、最後は赤石河原で自刃したという。
粕尾城は思川に面した丘陵に築かれている。
大規模な城で東に開口する谷間を囲む丘陵全体を曲輪とし、その外側に切岸と横堀を設けており、曲輪面積は非常に広い。大手は東の谷間の入口で標柱があり、ここから内部に入ると谷間に拡がった平段があるようだが、一面ヤブで地表面はまったくわからない。
入口から南の横堀を介して主郭まで回り込むと比較的見学しやすく、さらに北側へと回り込んで一周することができる。
森公民館に粕尾城についての張り紙がある。公民館の駐車場を利用して北へ進んで行くと大手の標柱がある。