霧島市役所の東約800mの所に石塔などの古い石造物が一所にまとめられている広場がある。国指定史跡の大隅国分寺跡である。

国分寺は奈良時代の天平十三年(741)、聖武天皇による国分寺建立の詔によって全国に建てられた寺院である。天平七年(735)から同九年(737)にかけて疫病(天然痘)が大流行し、人民の四人に一人が亡くなり、朝廷の高位にある者まで病死した。さらに天災、飢饉、政情不安が重なり、天平十二年(740)には北九州大宰府で大宰少弐藤原広嗣の反乱が起き、聖武天皇は一万七千人の追討軍を動員している。こうしたことから聖武天皇は深く仏教に帰依して国家鎮護のために先の詔を発したのである。

国分寺跡の調査は数回実施されたというが寺域の確定までには至っていない。出土した古瓦の文様・形式から国分寺の創建は奈良時代末期から平安時代初期(800年前後)の頃と見られている。聖武天皇の詔から半世紀ほど経てから建立されたことになる。

跡地にまとめられた石造物のうち六重の石造層塔には康治元年(1142)十一月六日の銘が彫られている。平安時代の末期頃で、国分寺の再興を祈願して建立されたと考えられている。ということはこの頃には国分寺は荒廃していたということであろうか。

その後の大隅国分寺の経緯はよく分からないが、慶長九年(1604)には島津義久が国分城を築城し、城下町を整備した際に国分寺跡地も破壊されたと見られている。江戸時代の天保十二年(1841)に記された「三国名勝図会」には一宇の観音堂が描かれており、細々ながら寺院として維持されていた様子がうかがえる。しかし、その観音堂も明治初年の廃仏毀釈によって破壊され廃寺となった。

　今では残された六重の石塔などが大隅国分寺の名残を伝えているのみである。