奧林匹亞遺址位於伯羅奔尼撒半島的山谷，自史前時代以來就有人居住。公元前10世紀，奧林匹亞成了人們敬拜宙斯的一個中心。眾神之聖地 阿爾提斯(Altis) ，是希臘建築傑作最集中的地方。除了廟宇之外，這裡還保留着專供奧運會使用的各種體育設施。早在公元前776年，人們就每四年在奧林匹亞舉行一次奧運會。
奧林匹亞古代屬希臘伊利斯城邦。公元前776年（希臘紀年之始），結合對宙斯神的祭祀，在此舉行首次奧林匹亞競技會，以後每四年召開一次，限希臘男性公民參加。項目有賽跑、鐵餅、賽馬、角力等，後又有文藝節目比賽，對優勝者獎以橄欖花環。競技期間，全希臘“神聖休戰”。競技會一直延續到公元394年被羅馬皇帝狄奧西多禁止。隨着競技會的廢止與河水衝蝕，奧林匹亞長期湮沒無聞，直到19世紀20年代法國人開始發掘，才又重現於世。
為紀念奧林匹亞運動會，1896年在雅典舉行了第一屆（現代）奧林匹克運動會。以後，運動會雖改為輪流在其它國家舉行，但仍用奧林匹克的名稱，並且每一屆的火炬都從這裡點燃。
遺址首次發掘始於1829年，奧林匹亞遺址東西長約520米，南北寬約400米，中心是阿爾提斯神域，是為宙斯設祭的地方，從發掘資料看，長只有200米，寬175米。最早的建築物可上溯到公元前2000一前1600年。
奧林匹亞遺跡的中心是雄偉的宙斯神廟。宙斯神殿建於公元前470年，於公元前456年完工，宙斯神像則由雕刻家菲迪亞斯負責。神殿是以表面鋪上灰泥的石灰岩建成，殿頂則使用大理石興建而成，神殿共由三十四條約高17米的科林斯式支柱支撐着，神殿的面積達41.1米乘107.75米，宙斯神殿是多利斯式(Doric-style) 的建築，整座神像及他所穿的長袍都是由黃金製成，他頭戴橄欖編織的環，右手握着由象牙及純金製成的勝利女神像，左手拿着一把鑲有閃爍耀眼金屬的權杖，上面 有一隻鷹停留着，而他所座的寶座則以獅身人面像、勝利女神及神話人物裝飾，該寶座的底座寬6.5米，高1.0米，神像則約高13米，相等於四層高的現代樓宇，使座在寶座上宙斯頭部差不多頂着神殿頂。位於奧林匹亞的神殿於公元5年被大火摧毀。後來，希臘人出於安全理由，決定 把它移到君士坦丁堡（今伊斯坦布爾），但那裡也沒能最終保全住這尊偉大的雕像。公元462年的一場大火徹底毀壞了雕像。
奧林匹亞遺址現存的最古老的建築遺跡應屬規模不大的赫拉神殿。它建於公元前600年前後，裡面供奉着女神赫拉像。 它是奧林匹亞遺址中現存最古老的建築，建於公元前600年左右。在神廟的祭壇旁，是現代奧林匹克大會聖火點燃儀式的舉行地點。
奧林匹亞的遺跡中的許多建築和設施，都是為體育比賽修建的。位於原來的宙斯廟附近的運動場，是世界上現存最古老的運動場。石制看台的一側，這裡還能依稀看見原來由石灰石鋪成的起跑點，周圍建築物的石柱直徑都在2米開外。站在看台高處往下看，只見層層石階，古希臘青年早在公元前1000年前後，就在這裡進行競技。