築城年代は定かではないが天文年間(1532年〜1555年)に櫛野茂晴によって築かれたと言われる。 櫛野氏は木付城主木付親実の弟茂晴が櫛野村地頭となってこの地へ移り、櫛野氏を称したことに始まるという。
天正10年(1582年)宇佐郡衆が大友氏に叛いたとき、妙見嶽城主田原親賢に従って時枝城を攻め、軍功を挙げた。天正15年(1587年)豊臣秀吉による九州征伐では櫛野義茂が秀次に従って島津軍を攻め軍功を挙げた。
櫛野城は恵良川に面した平地に築かれていたという。 案内板によれば、東西100m、南北200mの規模でかつては空堀が残っていたようであるが、現在は残っていない。恵良川に架かる櫛野橋の東詰に小公園があり、そこに案内板と石碑が建っている。