創建は貞観16年（874年）、空海の孫弟子にあたる理源大師聖宝が准胝観音（じゅんていかんのん）並びに如意輪観音を笠取山頂上に迎えて開山、聖宝は同山頂付近を「醍醐山」と名付けた。
醍醐寺は山深い醍醐山頂上一帯を中心に、多くの修験者の霊場として発展した後（この場所を「上醍醐」と呼称する）、醍醐天皇は醍醐寺を自らの祈願寺とすると共に手厚い庇護を掛け、その圧倒的な財力によって醍醐山麓の広大な平地に大伽藍「下醍醐」が発展することになる。
西国一険しい札所として知られる。上り口にはかつて女人結界があったことから、女人堂がおかれ、そこから険しい山あいに、平安時代のままに残る国宝の薬師堂、醍醐寺の鎮守神である清瀧権現（せいりゅうごんげん）拝殿（国宝）、准胝堂、五大堂などが立ち並ぶ。上醍醐には有名な「醍醐水」が今も湧き出ているほか、醍醐山頂（標高450m）には、如意輪堂（重文）と開山堂（重文）と白山大権現が並ぶ。山頂から笠取山に向かう途中に奥の院がある。

経典によると、准胝の修法をなす者は、清穢及び出家・在家を問わずに飲酒肉食し、かつ妻子あるも仏道修行を達成するという。また、心の働きを清浄にするほとけであり、「仏の母」という名から、安産、子授けの功徳もあるとされている。真言宗醍醐派の開祖である聖宝尊者が准胝観音に祈って朱雀天皇や村上天皇を授かったという伝説も残されている。