寺伝によれば、宝亀元年（770年）光仁天皇の勅願により南都大安寺の僧行表が創建したものという。創建と本尊に関しては次のような伝承がある。天智天皇の孫にあたる白壁王（後の光仁天皇）は、毎夜宮中に達する金色の霊光の正体を知りたいと願い、右少弁（右少史とも）藤原犬養なる者に命じて、その光の元を尋ねさせた。犬養がその光を求めて宇治川の支流志津川の上流へたどり着くと、滝壺に身の丈二丈ばかりの千手観音像を見た。犬養が滝壺へ飛び込むと1枚の蓮弁（ハスの花びら）が流れてきて、それが一尺二寸の二臂の観音像に変じたという。光仁天皇がその観音像を安置し、行表を開山として創建したのが当寺の起こりで、当初は御室戸寺と称したという。その後、桓武天皇が二丈の観音像を造立、その胎内に先の一尺二寸の観音像を納めたという。

このように、当寺の創建伝承については伝説的色彩が濃く、創建の正確な事情についてははっきりしない。園城寺（三井寺）の僧の伝記を集成した『寺門高僧記』所収の僧・行尊の三十三所巡礼記は、西国三十三所巡礼に関する最古の史料であるが、これによると、11世紀末頃に行尊が三十三所を巡礼した時は、三室戸寺は三十三番目、つまり最後の巡礼地であった。寺は康和年間（1099 - 1103年）、三井寺の僧隆明によって中興されたという。

その後寛正年間（1460 - 1466年）の火災で伽藍を失い、再興されたものの、天正元年（1573年）には織田信長と争った足利義昭に加勢したため焼き討ちされる。

現存する本堂は江戸時代後期の文化11年（1814年）に再建された。

本尊は千手観音像であるが、厳重な秘仏で、写真も公表されていない。本尊厨子の前に立つ「お前立ち」像は飛鳥様式の二臂の観音像で、二臂でありながら「千手観音」と称されている。高さ二丈の観音像は寛正年間（1460 - 1466年）の火災で失われたが、胎内に納められていた一尺二寸の二臂の観音像は無事であったという。

秘仏本尊を模して造られた前述の「お前立ち」像は、大ぶりの宝冠を戴き、両手は胸前で組む。天衣の表現は図式的で、体側に左右対称に鰭状に広がっている。こうした像容は奈良・法隆寺夢殿の救世観音像など、飛鳥時代の仏像にみられるものである。厨子内の秘仏本尊像自体については、指定文化財でないため、年代等の詳細は不明である。（２０１４．４．２訪問）