建治3年(1277年)小野寺道直によって築かれたと云われる。
鎌倉時代初期に雄勝郡に入部した小野寺経道の二男道直が由利方面に対する備えとして西馬音内に配され、その後西馬音内氏を名乗った。
天正14年()最上氏に属した鮭延地方の奪還を目指した有屋峠の合戦では西馬音内茂道も参陣した。
文禄元年(1592年)西馬音内茂道の女を娶って婚姻関係であった由利十二頭の一人八森城主矢島満安が、同じく由利十二頭の一人山根館の仁賀保氏によって八森城を追われ、西馬音内へと逃れてきたが、このことが宗家との間にあらぬ疑いを招き西馬音内氏は満安を自刃させた。このような内紛の中、山形城主最上義光は雄勝郡へ侵攻し文禄4年(1595年)頃には西馬音内氏・柳田氏・松岡氏・深堀氏などが最上方に属した。
慶長3年(1598年)横手城主小野寺氏が湯沢城奪還を目指すと西馬音内氏は再び小野寺氏に属して立ちあがった。慶長5年(1600年)関ヶ原合戦では上杉氏に呼応して東軍となり、上杉氏が最上領から撤退した後は孤立し、最上氏が雄勝郡へ侵攻すると西馬音内氏は城を焼き払って庄内へ逃れ、横手城主小野寺氏は改易となって石見国へ流罪となった。