神兴寺最初由新罗真德女王6年（652年），慈装律师创建的，起初叫香城寺，前院立着九层石塔，内供奉着释迦世尊的舍利，香城寺的名称是取“宗香城佛国图”之意而起的。据记载，慈装律师奉王命到大唐国取佛法，归国后所建的舍利塔，是十个舍利中的一个。
距现在的寺址向东约1，000m处建了香城寺。但是该香城寺的数千间大寺庙在孝昭王10年（701年）毁于一旦，前院所建的九层石塔也因火灾破损，仅剩下现在的三层石塔。当时的高僧义士祖师在现在的神兴寺以北约1，500m处现在的内院庵位置重建了禅定寺。
以后经过高丽时代，到了朝鲜，历经942年的时间，有900余名神僧修道精进中，又于仁祖20年（1642年）禅定寺再次毁于火魔中。

随后两年，朝鲜仁祖22年（1644年），禅定寺毁后，许多僧侣们离开此地，但是只有云丹、莲玉、惠元等三名僧侣心痛数百年由来已久的寺庙成为一片废墟，正渴望重建寺庙时，三个僧侣做了同样的梦，在似梦非梦中，由香城寺旧址后面少林庵出现白发神仙，指定神兴寺址“此处是数万代不能弥及三灾的神域”，故建立后称为神兴寺。

神兴寺收藏有许多文物，其中被指定为文物的有乡城寺址3层石塔（文物第443号）、神兴寺极乐宝殿（江原道有形文物第14号）、神兴寺经板（江原道有形文物第15号）、神兴寺楼普济楼（江原道有形文物第104号）、神兴寺（江原道文物第7号）。
还有神兴寺入口处有铸成的青铜释迦如来佛坐像，其高58尺，是东洋最大规模的青铜坐佛像。