長弓寺の創建についてはいくつかの説があり、定説を見ない。『長弓寺縁起』によると奈良時代に息子の流れ矢に当たって死んだ豪族・真弓長弓（まゆみたけゆみ）を悼み聖武天皇が僧・行基に開かせたと伝わり、後に藤原良継が堂塔を整えたとされる。盛時には塔頭が20院あったとされるが、現在は4坊が残るのみである。

伝承によれば神亀5年（728年）、鳥見郷の小野真弓長弓（おののまゆみたけゆみ）という人物が聖武天皇に随行して狩りに出た。同行していた長弓の息子・長麻呂が不思議な鳥が飛び立つのを見て矢を放ったところ矢は誤って長弓に当たり、彼は死んでしまった。不運な長弓父子を哀れんだ聖武は僧・行基に命じて一寺を建立させた。行基は十一面観音像を安置してこれを本尊とした。十一面観音像の頭頂には仏面が乗っているが、これは聖武の弓を刻んだものだという。なお「鳥見（登美）」は長弓寺の位置する生駒山東麓を指す古い地名で、神武天皇東征神話にも登場する。現在の奈良市西部から生駒市にあたる。

その後、桓武天皇（737年 - 806年）の時代に藤原良継（716年 - 777年）が再興したというが桓武の即位は良継没後の781年であるので時代的に合わない。別の伝承では平安時代初期に藤原緒継（774年 - 843年）によって創建されたともいう。

以後、中世までの沿革はあまりはっきりしていないが現在の本堂は棟木銘から弘安2年（1279年）の建立であることが明らかで真言律宗の祖・叡尊（1201年 - 1290年）によって再興されたものである。
長弓寺の境内東側にある伊弉諾（いざなぎ）神社は明治の神仏分離以前は牛頭天王社（ごずてんのうしゃ）と呼ばれ、寺伝では聖武天皇が長弓寺の鎮守として建てさせたものという。長弓寺の参道入口に鳥居が立つことからもうかがえるように、近世以前は神仏混交の信仰が行われていた。（２０１４．２．４．訪問）