太山寺の草創については、以下のような「一夜建立の御堂」伝説が伝えられている。飛鳥時代の用明2年（586年）、豊後国臼杵の真野の長者という者が難波に船で向かう途中、高浜の沖で大嵐に遭遇した。長者が平素から信仰する観音に念じると山頂から光が差し嵐が静まり無事着岸した。その光の差した頂上に行ってみると一寸八分の十一面観音を祀った小さな草堂（現在の奥の院）があった。長者は感謝し一宇建立の大願を起する。早速、豊後に引き返し工匠を集め木組みを整え、1日で高浜の港に着き夜を徹して、一夜にして建立したということである。

その後、天平11年（739年）聖武天皇の勅願により行基によって本尊の十一面観音が安置され、孝謙天皇（聖武天皇の娘）が天平勝宝元年（749年）に十一面観音を勅納し七堂伽藍を現在の地に整えたと伝えられている。なお、現本尊像（重要文化財）は平安時代後期の作である。また、本堂の奥中央の専用の厨子内に安置される十一面観音像（文化財指定なし）が孝謙天皇奉納像であると伝える。

現存の本堂（国宝）は三代目で嘉元3年（1305年）伊予国守護河野氏によって再建され、近世には松山城主加藤氏の庇護を受けて栄えた。