築城年代は定かではない。 宝徳2(1450年)にはすでに築かれており城主として穴山伊豆守が「甲斐国志」に記されている。
大永3年(1523年)穴山伊予守信永は鳥坂峠から侵攻してきた南部下野守と花鳥山で戦って敗れ、小山城に籠もったが落城し、信永は常楽寺で自刃して果てた。
天正10年(1582年)武田氏が滅亡して織田信長が本能寺の変で倒れた後は、旧武田領を巡って北条氏と徳川氏によって争われた。このとき、御坂城に籠もった北条氏に対抗するため、徳川氏の家臣鳥居元忠がこの小山城に入り城を改修している。鳥居氏は北条氏との戦いで大いに戦功を挙げ、後に郡内に所領を得て谷村城に入った。
小山城は段丘の北端に築かれており、現在は市指定史跡として公園整備されている。
単郭方形の城で、一部失われているものの四方に土塁と空堀が巡る。土塁は高く南東隅、北西隅のあたりが櫓台状に幅広くなりやや張り出している。
虎口は東と南の２ケ所あり、南虎口は残念ながら幅を拡げられ外側の堀も埋められている。東虎口は旧状を保っており一部礎石のような石も確認できる。
東虎口脇に駐車可能なスペースがあり、案内板、石碑、トイレがある。
最寄り駅(直線距離)