Ο Κώστας Σημίτης διαδέχτηκε τον Ανδρέα Παπανδρέου στις 22/1/1996. Η διαδικασία δεν ήταν αναίμακτη, όμως, όπως έγραψε ο Βασίλης Βασιλικός στα Νέα την επόμενη μέρα «Σημασία έχει τώρα πως τη λαίλαπα που ονομάζεται Μάαστριχτ και που δεν θα μας αφήσει στα «κεκτημένα», όπως έγινε στη Γαλλία, θα την αντιμετωπίσουμε με τη σύνεση του Σημίτη, με την ψυχραιμία του Αρσένη και με την ειλικρίνεια του Τσοχατζόπουλου. Δηλαδή ενωμένοι και, ει δυνατόν, με τις λιγότερες δυνατές απεργίες».
 
Ο Σημίτης κέρδισε δύο εκλογικές αναμετρήσεις (Σεπτέμβρης 1996 και Απρίλης 2000) και παρέμεινε πρωθυπουργός ως τον Μάρτη του 2004. Σ’ αυτά τα 8 χρόνια, δεν υπήρξε απλώς πρωθυπουργός, αλλά απέκτησε και τον δημοσκοπικό τίτλο που πολλοί ζήλεψαν, αυτόν του «καταλληλότερου». Μάλιστα μια έρευνα της Focus που δημοσιεύτηκε στην Κυριακάτικη Ελευθεροτυπία τον Γενάρη του 2002 τον αναγορεύει σε «ιδανικό ηγέτη» για το 33,7% των ερωτώμενων.
 
Ο Σημίτης συνδέθηκε με την έννοια του εκσυγχρονισμού, μια έννοια που ο ίδιος είχε χρησιμοποιήσει από νωρίτερα. Στο βιβλίο του Ανάπτυξη και εκσυγχρονισμός της ελληνικής κοινωνίας (Εκδόσεις Γνώση, 1989) συναντά κανείς μια κριτική στον ελληνικό κοινωνικό σχηματισμό που θα μπορούσε να έχει γραφτεί και σήμερα από τις δημοφιλέστερες φιλελεύθερες πένες, πράγμα που αποδεικνύει ότι ο πολυπόθητος εκσυγχρονισμός δεν υλοποιήθηκε κατά την περίοδο 1996-2004. Όμως η κοινή γνώμη καθοδηγούνταν τότε από δημοσιογράφους όπως ο μετέπειτα υπουργός του ΠΑΣΟΚ Πέτρος Ευθυμίου, που έγραφε για το τοτέμ της εποχής: «ο σημερινός πατριωτισμός ταυτίζεται με τον κοινωνικό, οικονομικό και πολιτικό εκσυγχρονισμό της χώρας, στην πορεία της προς την ευρωπαϊκή ολοκλήρωση» (Το Βήμα, 11/2/1996).
 
Η πορεία αυτή σταμάτησε σε ορισμένα εμπόδια που τότε περιγράφονταν σαν απομεινάρια του παλιού κόσμου. Ο καθηγητής του Οικονομικού Πανεπιστημίου Θεόδωρος Λιανός γράφει, για παράδειγμα, σ’ ένα άρθρο του με τίτλο «Ποιος φοβάται τον εκσυγχρονισμό;» (Το Βήμα, 21/2/1999): «Το σύνθημα της σημερινής κυβέρνησης του ΠαΣοΚ είναι ο εκσυγχρονισμός κυρίως μέσω της ένταξης της χώρας στην Οικονομική και Νομισματική Ένωση. […] Το ενδιαφέρον είναι ότι ο εκσυγχρονισμός βρίσκει υποστηρικτές εκτός ΠαΣοΚ αλλά ταυτόχρονα βρίσκει μεγάλες και ισχυρότατες αντιδράσεις εντός ΠαΣοΚ. […] Τον εκσυγχρονισμό φοβούνται τα οργανωμένα συμφέροντα που δεν βλέπουν και δεν ενδιαφέρονται για τη μελλοντική ανάπτυξη της χώρας και που αρνούνται να εγκαταλείψουν προνόμια που ούτως ή άλλως δεν έπρεπε να έχουν».
 
Η απόδοση των αντιθέσεων μεταξύ αριστεράς και δεξιάς σε παλιομοδίτικη ιδεοληψία, η αποπολιτικοποίηση των πολιτικών επιλογών ήταν ουσιαστική για το εκσυγχρονιστικό εγχείρημα. Ο καθηγητής του ΑΠΘ Θεόδωρος Παπαγγελής γράφει σ’ ένα άρθρο με τίτλο «Για την τιμή και το όνομα του Εκσυγχρονισμού» (Το Βήμα, 15/3/1998),  όπου τον συγκρίνει με το παραδοσιακό σύνθημα της «Αλλαγής»: «Ως σύνθημα ιδεολογικού συναγερμού και παραταξιακής συσπείρωσης ο Εκσυγχρονισμός, όπως φαίνεται, δεν είναι ιδιαίτερα αποτελεσματικός. Γιατί, σε τελική ανάλυση, δεν απευθύνεται τόσο σε εκείνες τις ιστορικά δομημένες και επικαθορισμένες έξεις οι οποίες υποθάλπουν και συντηρούν τις ιδεολογικές αντιπαλότητες, όσο σε μια βαθύτερη ψυχική πραγματικότητα που κάνει τα άτομα ευεπίφορα ή όχι στο καινούργιο ανεξάρτητα από τις δεξιές, κεντρώες ή αριστερές συντεταγμένες τους.» 
 
«Γι’ αυτόν ακριβώς τον λόγο ο Εκσυγχρονισμός είναι για ορισμένους πολιτικά ανιστορικός και άνοσμος (ή και δύσοσμος) και φαίνεται να αντιστρατεύεται ευθέως τις μανιχαϊστικές απλουστεύσεις οι οποίες συχνά οριοθετούν τους κομματικούς χώρους• αυτός είναι ο λόγος που ο Εκσυγχρονισμός σεμνύνεται για εξωκομματικές «κατακτήσεις»• […] Ο Εκσυγχρονισμός είναι πολιτικός, με την έννοια ότι, στη μορφή με την οποία θρυλείται και προβάλλεται, διασφαλίζει νέες συνθήκες και προϋποθέσεις, σε έναν κόσμο βαθύτατα και ταχύτατα μεταβαλλόμενο, για νέες εκδοχές ιδεολογικής πάλης. […] Θα ήταν καταφανώς άδικο, αχάριστο και στενόκαρδο να ευφυολογήσουμε λέγοντας ότι ο Εκσυγχρονισμός, τοποθετημένος σε αυτή την ευρεία προοπτική, είναι πολύ σοβαρό πράγμα για να το εμπιστευθούμε στους πολιτικούς• θα μας επιτραπεί ωστόσο να πούμε ότι δεν πρέπει να αφεθεί μόνο στους πολιτικούς».