Το Ιερό του Ολυμπίου Διός, ένα από τα σημαντικότερα και αρχαιότερα ιερά της Αθήνας ιδρύθηκε κατά την παράδοση που διέσωσε ο περιηγητής Παυσανίας, από τον Δευκαλίωνα γενάρχη των Ελλήνων προς τιμή του Δία ως αντάλλαγμα για τη σωτηρία του μετά τον κατακλυσμό.

Η ανέγερση του μεγάλου ναού άρχισε από τον Πεισίστρατο τον Νεώτερο το 515 π.Χ. στη θέση παλαιότερου ναού των αρχών του 6ου, έφθασε ως το κρηπίδωμα και διακόπηκε με την κατάλυση της τυραννίδας. Ο υστεροαρχαϊκός ναός ήταν πώρινος, δωρικού ρυθμού, κολοσσιαίων διαστάσεων. Μέρος των οικοδομικών του υλικών χρησιμοποιήθηκε αργότερα για την κατασκευή του ανατολικού βραχίονα του Θεμιστόκλειου τείχους.

Η οικοδόμηση του ναού συνεχίσθηκε από τον Βασιλέα της Συρίας Αντίοχο τον Δ΄ τον Επιφανή, με τον Ρωμαίο αρχιτέκτονα Κοσσούτιο, το 175 π.Χ., στις ίδιες διαστάσεις και αναλογίες με τον αρχαϊκό αλλά από μάρμαρο, σε Κορινθιακό ρυθμό, αργότερα από τον Αύγουστο και αποπερατώθηκε τελικά από τον Φιλέλληνα αυτοκράτορα Αδριανό, ο οποίος και τον εγκαινίασε το 131-132 μ.Χ.

Ο Αδριάνειος ναός, από τους μεγαλύτερους του αρχαίου κόσμου, Κορινθιακού ρυθμού, είχε μήκος 110,35μ., πλ. 43,68μ., δύο σειρές από 20 κίονες στις μακρές πλευρές και τρεις σειρές από 8 κίονες στις στενές. Δέσποζε στο μέσο ενός μεγάλου ορθογωνίου περιβόλου με πρόπυλο στα βόρεια. Ο σηκός στέγαζε δύο υπερμεγέθη χρυσελεφάντινα αγάλματα του Δία και του αυτοκράτορα Αδριανού που λατρεύονταν εδώ ως σύμβωμοι, ενώ πλήθος αγαλμάτων και αναθημάτων στόλιζαν τον περίβολο.

Η ερείπωση άρχισε τον 5ο αι. μ.Χ. και συνεχίσθηκε στους επόμενους αιώνες από φυσικά αίτια ή ανθρώπινες επεμβάσεις. Στην ΝΑ περιοχή του περιβόλου υπήρχε τζαμί υπαίθριου τύπου κατά τη διάρκεια της Τουρκοκρατίας και επάνω στο επιστύλιο των κιόνων της ΝΑ γωνίας του ναού μεσαιωνικό κτίσμα ίσως παρατηρητήριο. Από τους 104 κίονες του ναού σώζονταν μέχρι το 1852 δεκαέξι. Ο ένας γκρεμίσθηκε από μία φοβερή καταιγίδα εκείνης της χρονιάς.