築城年代は定かではないが小佐々氏によって築かれたと云われる。
小佐々氏は近江源氏の末裔を称し、戦国時代には小佐々水軍を率いていた。この頃、小佐々城には多比良小佐々氏を称す長男小佐々弾正純俊、中浦城には中浦小佐々氏を称す二男小佐々純勝、松島小佐々氏を称す三男小佐々純當の三家があり、最後は大村氏に従った。
小佐々城は通称「城ノ辻」と呼ばれる山に築かれており、正式名称は伝わっていない。この辺り一帯にある城館跡を含め小佐々水軍城とも呼ばれている。
小佐々城の主郭部はゴツゴツした岩山で、山頂部は南北に細長い平段があり北に最高所となる小高い岩がある。
大手は小峰上館のある東側とされ、そこから南東の尾根先に登る道が付いており、登った先が二の丸、三の丸とされる。この辺りは広い曲輪があり、南側には石積の段曲輪、北山腹には「扇陣」と呼ばれる石垣がある。
小佐々城の案内板は国道202号線沿いにあり(地図)この辺りは多比良下館と呼ばれる館跡とされる。
山頂へはこの案内板から上に登っていけば車は通ることができないが、林道がそのまま山頂近くまで続き、最後は遊歩道で山頂に登ることができる。