築城年代は定かではないが大永年間(1521年〜1528年)に尾藤源内重吉によって築かれたと云われる。 尾藤氏は信濃国守護小笠原家に仕えていたが、武田信玄の侵攻によって信濃を離れ、織田信長に仕えて重吉城を築いたという。
尾藤重吉は永禄年間(1558年〜1570年)に織田信長によってこの地を追われ、三河国へ移り奥平信昌に仕えたという。
重吉の子あるいは弟とされる尾藤又八重房は、元亀元年(1570年)森可成に従って近江国宇佐山城に籠もって、朝倉・浅井連合軍と戦い討死した。重吉の子が羽柴秀吉に仕えた尾藤知宣である。
天正12年(1584年)小牧長久手合戦において徳川家康・織田信雄方の砦として利用された。
重吉城は丹陽中学校の南側に築かれていたという。県道155号線沿いに大きな看板があるので場所はすぐにわかるのだが、石碑が建っているのは県道から少し入ったアパートの裏で、石碑は草に覆われている。