美濃国の国分寺は大垣市青野町に置かれた。建立の時期は明確ではないが、八世紀中頃と推測されている。 仁和3年(887年)6月国分寺は火災によって焼失し、その役目は席田郡の定額尼寺に移された。国分寺の機能が再びこの地に戻ったという記録は残されていないが、発掘調査によって平安時代後期に再建された建物跡が検出されており、この頃に国分寺の役目が再びこの地に戻されたと考えられている。

美濃国分寺の伽藍は南北に南門、中門、金堂、北門と並び、中門から金堂にかけて回廊が巡り、その中、東側に塔、西側にも建物が建っていた。回廊の外側には僧房が建ち、北東側に経蔵、北西側に鐘楼があった。

現在は公園として整備されており、北側には大垣市歴史民俗資料館があり、復元模型が展示されている。その北側には現在の美濃国分寺がある。