Γύρω στο 472 π.Χ. οι Ηλείοι, μετά από εσωτερικές πολιτικές ανακατατάξεις, αποφασίζουν την ανέγερση στον χώρο της ιερής Άλτης ενός ναού αφιερωμένου αποκλειστικά στον Δία. Αρχιτέκτονας του ναού ορίστηκε ο Λίβων από την Ήλιδα. Το 457 π.Χ. ο ναός είχε σχεδόν αποπερατωθεί, αφού οι Σπαρτιάτες κρέμασαν στη στέγη του μιαν επίχρυση ασπίδα, μετά από τη νίκη τους στη μάχη της Τανάγρας.
Επειδή η τοποθεσία στην οποία αποφασίστηκε να κτισθεί ο ναός ήταν χαμηλότερη, ο Λίβων κατασκεύασε κρηπίδωμα ύψους περίπου τριών μέτρων.
Ο ναός, που θεωρείται ως η καλύτερη έκφραση της δωρικής αρχιτεκτονικής, είναι περίπτερος με 6 κίονες στις στενές πλευρές και 13 στις μακριές. Είχε μήκος 64,12 μ., πλάτος 27,66 μ. και ύψος 20,25 μ. Το ύψος των κιόνων ήταν 10,45 μ. και διάμετρο, στο κάτω μέρος, 2,20 μ. Πάνω στα τεράστια κιονόκρανα, πλάτους 2,65 μ., στηριζόταν ο θριγκός με ύψος 4,09 μ. Δεξιά και αριστερά της σκεπής υπήρχαν από 51 υδρορρόες στην κάθε πλευρά.
Οι εξωτερικές μετόπες του ναού ήταν ακόσμητες ως το 146 π.Χ. που ο Ρωμαίος στρατηγός Μόμμιος αφιέρωσε 21 επίχρυσες ασπίδες από τα λάφυρα της νίκης του κατά των Αχαιών.
Στο ανατολικό αέτωμα παριστανόταν ο αγώνας αρματοδρομίας του Πέλοπα και του Οινομάου και στο δυτικό η Κενταυρομαχία με τον Θησέα.
Ο ναός ήταν κατασκευασμένος από κογχυλιάτη λίθο, ο οποίος επιχρίσθηκε από λευκό και λεπτό μαρμαροκονίαμα, ώστε να δίνει την εντύπωση του μαρμάρου. Από παριανό μάρμαρο ήταν κατασκευασμένα τα γλυπτά των αετωμάτων, οι μετόπες του πρόναου και του οπισθόδομου καθώς και τα κεραμίδια.
Στο μέσο της ανατολικής πλευράς, είχε δημιουργηθεί για την ευκολότερη πρόσβαση επικλινές επίπεδο (ράμπα). Από εκεί μπαίνοντας κανείς στον ναό, φτάνει στον πρόναο. Στην είσοδο του πρόναου υπήρχαν δύο κίονες που υποβάσταζαν διάζωμα με τρίγλυφα και έξι μετόπες. Ακολουθεί ο σηκός, στο εσωτερικό του οποίου υπήρχαν δύο δίτονες (διώροφες) κιονοστοιχίες με επτά (7) κίονες η καθεμιά. Στο βάθος του σηκού ήταν στημένο το χρυσελεφάντινο άγαλμα του Δία, έργο του Φειδία. Πίσω από το άγαλμα υπήρχε τοίχος που χώριζε τον σηκό από τον οπισθόδομο. Ο οπισθόδομος, όπως και ο σηκός, είχε στην είσοδό του δύο κίονες που στήριζαν διάζωμα με τρίγλυφα και έξι μετόπες. Οι μετόπες του πρόναου και του οπισθόδομου εικόνιζαν τους άθλους του Ηρακλή.
Το άγαλμα ήταν στερεωμένο πάνω σε βάθρο μήκους 9,93 μ. και πλάτους 6,25 μ. Ο Δίας παριστανόταν ένθρονος, κρατώντας σκήπτρο στο αριστερό χέρι, ενώ στα δεξιά στεκόταν μια Νίκη. Το ύψος του αγάλματος μαζί με τη βάση έφτανε τα 12 μ., δηλαδή το κεφάλι του Δία ακουμπούσε σχεδόν στην οροφή του ναού. Οι πιστοί μπορούσαν να ανεβούν στο υπερώο, που σχημάτιζαν οι δίτονες κιονοστοιχίες, για να θαυμάσουν από κοντά το άγαλμα. Με ειδικό κιγκλίδωμα που περιέκλειε το βάθρο δεν μπορούσαν οι πιστοί να αγγίξουν το άγαλμα, ταυτόχρονα όμως συγκεντρωνόταν εκεί και το λάδι που έριχναν στο ελεφαντόδοντο, για να το προστατέψουν από την υγρασία. Τα χρυσελεφάντινα αγάλματα αποτελούνταν εσωτερικά από ένα ξύλινο πυρήνα, πάνω στον οποίο προσαρμόζονταν τα φύλλα του χρυσού και τα κομμάτια από ελεφαντόδοντο. Όλα τα γυμνά μέρη του αγάλματος ήταν από ελεφαντόδοντο, ενώ από χρυσό ήταν το ιμάτιο, το σκήπτρο, τα μαλλιά, τα γένια και η Νίκη. Ο θρόνος ήταν κατασκευασμένος από έβενο, χρυσό, ελεφαντόδοντο και υπήρχαν ένθετα κοσμήματα από γυαλί και πολύτιμους λίθους. Το άγαλμα μεταφέρθηκε στην Κωνσταντινούπολη και κάηκε σε πυρκαγιά το 475 μ.Χ.
Ο ναός πυρπολήθηκε το 426 μ.Χ. με διαταγή του Θεοδοσίου του Β'. Αργότερα στα 522 και 551 μ.Χ. κατέρρευσε από σεισμούς.