本神社の創建・由緒等は不詳である。「上加茂村誌」に天平勝宝年中、真金を掘収したが失敗し、片金山の栁神社に祈願したところ、金山彦神・天日筒男命を奉斎せよと告げられ、栁神社を相殿として宮殿を造り、社号を中山神社としたのがその起源であると云われている。また美作六十六社の一社であり、寛文八年再建したともいわれている。「作陽誌」にも中山神社とあり、他に国司大明神があった。その後明治六年青栁神社と改称し、同九年金山毘古命・天照大神荒魂・筒男命を合祀し村社に列せられ、同四十二年に大字内の水分神社・経津主神社・伊勢神社・滝神社を合祀した。大正二年上加茂神社に合祀されたが昭和二十四年再び旧跡地に遷座し、奉斎せられ今日に至っている。