築城年代は定かではないが建武年間(1334年〜1338年)に黒木大膳亮正光によって築かれたと云われる。
黒木氏の発祥は定かではないが、在地土豪説あるいは北畠顕家家臣説があるという。 建武3年(1336年)黒木入道一党が南朝方として挙兵し、霊山城落城後も南朝方の防衛拠点として北朝方の攻撃を防いでいる。
その後、相馬氏に属し黒木弾正信房の頃には中村城に弟黒木大膳義房(中村大膳)を置いて宇多郡をほぼ支配していた。しかし、天文年間(1532年〜1555年)に至り、伊達氏の天文の乱で伊達晴宗に組した黒木氏は伊達稙宗方の田中城を攻めて失敗、天文12年(1543年)同じく稙宗方の相馬顕胤に滅ぼされた。
相馬氏は青田信濃顕治を城代して置いたが、永禄6年(1563年)青田氏一族が離反して伊達氏に走り、代わって相馬三郎胤乗、続いて黒木中務宗元が城代となったが、天正4年(1576年)黒木中務は弟堀内四郎と謀叛を起こして伊達輝宗の元に走った。
その後城代となった門馬上総介貞経は天正18年(1590年)駒ヶ峯城奪還戦で中村城代相馬隆胤などとともに討死し、佐藤丹波信綱が城代となったが後に廃城となった。
黒木城は黒木町集落の西側の微高地に築かれている。 本郭あるいは御城と呼ばれる主郭がやや高台となった地にあり周囲に内堀が巡る。西側には西館とも呼ばれる外郭があり、その周囲に堀が巡らされ、主郭の東側はこの堀によって二重堀となっていたようである。
現在は大半の遺構が水田となり東側は宅地、南は墓地などになってしまっている。しかし、木々に埋もれた外郭の堀や宅地付近の堀、内堀もそれと判別でき、おおよその規模と縄張りは判別できるようである。