京都や大阪から熊野三山を目指す人々は、蕪坂（かぶらざか）を越えて宮原へ下り、最初にこの山口王子へ参拝したと伝えられています。
『明月記』で知られる藤原定家は、建仁元年（1201年）の熊野御幸に随行した際、この社を「蕪坂山口王子」と記しています。一方、藤原頼資の『修明門院熊野御幸記』では「宮原王子」と記されており、どちらも蕪坂を下った直後に参拝した同じ王子社を指すと考えられています。当時は宮原荘の入口に位置することから「宮原王子」、山の入口にあることから「山口王子」と呼ばれるなど、時代や記録によって名称が異なりました。
江戸時代には「山口王子社」あるいは「鏑鎚（かぶつち）王子」とも呼ばれ、地域の信仰を集めていました。しかし明治時代の神社合祀政策により、山口王子は蕪坂塔下王子とともに宮原神社へ合祀され、古くからの社は姿を消しました。その後、地域住民による保存活動が進められ、平成3年（1991年）に地元有志の手で社殿が再建され、さらに平成17年（2005年）には本来の王子跡近くへ移されました。現在では往時を偲ぶ社と手洗鉢が整備され、熊野古道を歩く人々の休憩所としても親しまれています。