築城年代は定かではない。 石黒荘を本拠とした石黒氏が南北朝時代以前に進出して木舟城を築いて居城とし、木舟石黒氏となったと云われる。
本流福光石黒氏が文明13年(1481年)山田川で一向一揆との戦いで滅亡したのに対し、木舟石黒氏は戦国時代まで続き、石黒左近蔵人の時代には一大勢力を築いていた。
石黒氏は上杉氏に属していたが上杉謙信が急死した後は織田信長に通じ、天正9年(1581年)上杉氏によって攻められ落城した。石黒氏は織田信長に呼び寄せられ近江国長浜にて討たれた。木舟城を手に入れた上杉氏は吉江宗信を城将として守らせていたが、後に織田信長に奪われ佐々成政の支城となった。
天正13年(1585年)羽柴秀吉による越中平定で佐々成政が降伏すると、前田利家の弟前田秀継が入城したが、同年十一月の大地震によって秀継夫妻は没し、子の利秀は翌天正14年に今石動城に居城を移し廃城となった。
木舟城は南北に三つの曲輪を並べ周囲に濠を巡らせた平城であったと推測されている。 現在は水田の中に若干の微高地が残り、そこに石碑と案内板が建てられている。