Ο αρχαιολογικός χώρος του Ολυμπίου υπήρξε χώρος λατρείας του θεού Δία από τους πρώιμους ιστορικούς χρόνους, ενώ σύμφωνα με τα αρχαιολογικά ευρήματα η ευρύτερη περιοχή κατοικούνταν από τα προϊστορικά χρόνια.
Η ίδρυση του ναού αποδίδεται στο Δευκαλίωνα, έναν από τους μυθικούς ήρωες των αρχαίων Ελλήνων. Σύμφωνα με τις ιστορικές πηγές την εποχή της τυραννίας και συγκεκριμένα γύρω στο 515 π.Χ.,ο Πεισίστρατος ο νεότερος - εγγονός του ομώνυμου τυράννου - επιχείρησε να αντικαταστήσει τον παλιό ναό με ένα νεότερο, πιο εντυπωσιακό. Όμως, μετά την πτώση της τυραννίας, οι κατασκευαστικές εργασίες σταμάτησαν. Το έργο συνεχίστηκε αργότερα - το 174 π.Χ. - από τον βασιλιά της Συρίας Αντίοχο Δ' τον Επιφανή και τελικά ολοκληρώθηκε από τον Ρωμαίο Αυτοκράτορα Ανδριανό. Στο εσωτερικό του ναού υπήρχε ένα κολοσσιαίο χρυσελεφάντινο άγαλμα του Δία, έργο του περίφημου γλύπτη Φειδία.
Ο ναός του Ολυμπίου Διός είναι ένας από τους μεγαλύτερους του αρχαίου κόσμου. Είναι χαρακτηριστικό ότι η άρχισε να κατασκευάζεται από τον Πεισίστρατο το 515 π.Χ. και ολοκληρώθηκε από τον Ανδριανό το 131 μ.Χ. Πρόκειται για ένα εντυπωσιακό οικοδόμημα. Ήταν ένας οχτάστυλος τρίπτερος στις δύο στενές πλευρές και εικοσάστυλος δίπτερος στις μακρές πλευρές του ναός. Αποτελούνταν από 104 συνολικά κορινθιακούς κίονες ύψους 17 μέτρων, από τους οποίους σήμερα σώζονται μόνο οι 16.

Κατά την περιήγησή σας στον αρχαιολογικό χώρο εκτός από το μνημειώδη αυτό ναό του Ολυμπίου Διός θα έχετε την ευκαιρία να δείτε και άλλα σημαντικά ιστορικά μνημεία.
Αξίζει, να κάνετε ένα περίπατο στο μοναδικό σωζόμενο τμήμα της κοιλάδας του ποταμού Ιλισού που βρίσκεται στη πίσω πλευρά του Ολυμπίου. Επρόκειτο για τον ιερό ποταμό των Μουσών. Κατά μήκος του υπάρχουν διάσπαρτα απομεινάρια αρχαίων ιερών από διαφορετικές ιστορικές περιόδους. Στην περιοχή θα δείτε και τον βράχο της πηγής Καλλιρρόη, ενώ σε κοντινή απόσταση βρίσκεται και η εκκλησία της Αγίας Φωτεινής, που έχει κτιστεί στη θέση παλαιότερου ναού και πάνω στα θεμέλια του αρχαίου ιερού της Εκάτης.
Στην περιοχή αυτή σώζονται και τα λείψανα πολλών ακόμη σημαντικών μνημείων που χρονολογούνται από τα κλασικά, ρωμαϊκά και βυζαντινά χρόνια, όπως ο ναός του Δελφινίου Απόλλωνα, ο ναός του Κρόνου και της Ρέας, η βυζαντινή συνοικία με τα εργαστήρια, οι πύλες του Θεμιστόκλειου Τείχους, κ.α.