築城年代は定かではないが弘仁3年(812年)頃に文室綿麻呂によって築かれたと云われる。

大和朝廷は延暦21年(802年)胆沢城を築き、翌延暦22年(803年)には志波城を築いて最前線の基地とした。しかし、志波城は雫石川の度重なる水害によって移転を決意し、徳丹城が築かれてその機能を移した。

徳丹城の規模は胆沢城、志波城に比べて小さく、350m四方程度であったとされ、外郭は70m間隔で櫓が設けられ、城門は東西南北の四か所に設けられた。