創建年代不詳。古社で連島一円の総鎮守である。往古から領主藩主対州候から神領・境内建物・神具等の寄進があった事は別当寺の古記録・棟札から確認せられる。本神社の称号を矢上り八幡宮という由来は、寿永二年(１１８３年)源平屋島の戦いに於いて那須与市宗高の矢が、社前の海辺に漂流して来たのを里人が拾い、八幡宮本殿に納めたからだという。当時別当寺であった宝島寺の寂厳和尚筆の棟札に記録がある。