海龍王寺は、『続日本紀』、正倉院文書などの奈良時代の記録では「隅寺」「隅院」「角寺」「角院」などと呼ばれている。正倉院文書では天平8年（736年）には「隅院」の存在が確認できる。「隅寺」とは、皇后宮（藤原不比等邸跡）の東北の隅にあったことから付けられた名称と言われている（「平城京の東北隅にあったため」と解説する資料が多いが、位置関係から見て妥当でない）。「隅寺」の創建について、伝承では天平3年（731年）、光明皇后の発願で建立され、僧・玄昉が初代住持となったというが、このことは正史に記載がなく、創建時期や事情について正確なところはわかっていない。なお、海龍王寺境内からは飛鳥時代から奈良時代前期の古瓦が出土しており、平城京遷都以前に何らかの前身建物が存在した可能性が指摘されている。海龍王寺の敷地は、平城京の整然とした条坊（碁盤目状の町割り）からずれて位置しており、平城京内を南北に貫通する道の一つである東二坊大路は、海龍王寺の境内を避けて、やや東にずれている（現在の道路にもその名残りが見られる）。このことは、先に寺院等の施設があり、後から道がつくられたことを意味している。

発掘調査の結果により、奈良時代の海龍王寺には、小規模ながら、中金堂（ちゅうこんどう）、東金堂、西金堂の3つの金堂があったことがわかっている。伽藍配置は、中門の左右から発した回廊が伽藍主要部を方形に囲んで中金堂の左右に達し、回廊で囲まれた内側に南北棟の東金堂と西金堂が相対して建つものであった。現存する西金堂は、位置、規模等は奈良時代のままであるが、鎌倉時代に再建に近い修理を受けており、主要な部材はおおむね鎌倉時代のものに代わっている。中金堂の旧地には本堂が建ち、東金堂は明治時代初期に失われた後、再建されていない。

平安時代の寺史についてはあまりはっきりしていないが、興福寺の支配下にあったようである。鎌倉時代には、真言律宗の宗祖である叡尊が嘉禎2年（1236年）から暦仁元年（1238年）まで当寺に住して復興を行っており、貞治4年（1365）には第13代信尊和尚、康暦元年（1379）には第15代興泉和尚、長禄元年（1457）には第28代元澄和尚、天文7年（1538）には光淳和尚、明和3年（1766）には高瑜和尚　と、海龍王寺から五名の西大寺を長老を輩出しており、真言律宗の中でも筆頭格の寺院であった。（２０１３．１１．４訪問）