菅原道真の末裔でもともと北面の武士であった仙石若狭守(正室は橘氏)が南北朝期の内乱から逃れて暦応年間(1338年 - 1341年)に美濃国山県中村へと移り住んだ。
若狭守の曾孫・仙石権左ヱ門秀豊は土岐氏に仕え、下真桑で3千石を領した。先祖である菅原道真の坐像を彫刻して氏神とし、本尊阿弥陀仏とともに神社に納めた。秀豊は永享・嘉吉年間に十七条城主となるが、老年になって軽海村で隠居し、嘉吉2年11月17日(1442年12月29日)に没した。
秀豊の2子のうち兄・刑部左衛門秀影は剃髪入道し、明応5年(1496年)には実如上人から了道の法名を賜り、念仏道場を創建した。
またこのとき、本尊阿弥陀如来と蓮如上人の手による九字名号も賜った。
元和9年8月23日(1623年9月17日)、3世・乗頓は准如上人から教念寺の寺号を賜り、仙石山教念寺と号するようになった。
明治6年(1873年)には下真桑村に知新学校(のちの真桑小学校)が開設されることになったが、校舎が完成するまで教念寺の堂が学校として使用された。
昭和の大戦中には託児所が開設されたが、このとき幼児教育の必要性を感じて戦後に慈光保育園という保育園を設けた。
現本堂は文化3年(1806年)に建てられたもので、天保6年12月に建てられた山門とともに濃尾地震を乗り越えた。経堂は昭和2年建立。
現住職は17世・仙石智教。