神兴寺是新罗真德女王6年（652年），由慈装律师创建的，起初叫香城寺，前院立着九层石塔，内供奉着释迦世尊的舍利，香城寺的名称是取“宗香城佛国图”之意而起的。
据记载，慈装律师奉王命到大唐国取佛法，归国后所建的舍利塔，是十个舍利中的一个。距现在的寺址向东约1，000m处建了香城寺。
但是该香城寺的数千间大寺庙在孝昭王10年（701年）毁于一旦，前院所建的九层石塔也因火灾破损，仅剩下现在的三层石塔。
当时的高僧义士祖师在现在的神兴寺以北约1，500m处现在的内院庵位置重建了禅定寺。
以后经过高丽时代，到了朝鲜，历经942年的时间，有900余名神僧修道精进中，又于仁祖20年（1642年）禅定寺再次毁于火魔中。

随后两年，朝鲜仁祖22年（1644年），禅定寺毁后，许多僧侣们离开此地，但是只有云丹、莲玉、惠元等三名僧侣心痛数百年由来已久的寺庙成为一片废墟，正渴望重建寺庙时，三个僧侣做了同样的梦，在似梦非梦中，由香城寺旧址后面少林庵出现白发神仙，指定神兴寺址“此处是数万代不能弥及三灾的神域”，故建立后称为神兴寺。