宝治元年(1247年)遠山景重によって築かれたと云われるが定かではない。 「遠山七家」(岩村・明照・明知・飯羽間・串原・苗木・安木)の一つ。

元亀3年(1572年)武田信玄の武将信濃国高遠城主秋山信友は岩村城を攻略した後、上村合戦で明知城主遠山景行、苗木城主遠山勘太郎、飯狭間城、串原城を攻略した。

天正3年(1575年)織田方となっていた明知城に武田勝頼の軍勢が押し寄せたとき、飯狭間右衛門(高遠友信)が謀反を起こし籠城していた坂井越中守一族を殺害して城を武田方へ明け渡した。また一説に高遠友信は飯羽間城を武田方に攻め落とされ生け捕られたという。

天正11年(1583年)明知城主遠山利景は金山城主森長可の圧迫で明知城から去って徳川家康に仕えた。天正12年(1584年)遠山氏は小牧・長久手合戦で森長可の家臣石黒藤蔵・関左門の守る明知城を攻略したが、その後豊臣秀吉の命令により明知城は森長可に返された。

慶長6年(1600年)関ヶ原合戦では、岩村城主田丸直政の家臣山川左之助・原土佐の守る明知城を攻略、その功によって恵那郡と土岐郡内に六千五百三十石を領し、後に明知陣屋を築いて明知城は廃城となった。

明知城は明知町の東の山に築かれており、西の中腹には江戸時代の明知陣屋がある。

現在は県指定史跡として整備されており、随所に案内板が建っている。本丸の北下には規模の大きな畝状竪堀群が残っている。

城山の北西にある龍護寺から登山道がある。