天文11年(1542年)山名佑豊によって築かれた生野城の平城部分が生野代官所の前身となった。山名氏時代に三階の天守、隅櫓などを備えたといわれ、寛永6年(1629年)に取り壊されたという。

生野代官所は銀山経営の他、朝来郡・気多郡などの天領五万石余りを支配していた。明治2年(1869年)生野県となって県庁になり、その後、豊岡県に統合され次第に遺構が失われていった。

生野代官所は現在の生野小学校付近に築かれていた。現在は小学校の南東隅に「生野義挙碑」とともに案内板が設置されているのみで遺構はない。