Το αρχοντικό Μιχαλέα χτίστηκε το 1894 για να στεγάσει την παλιά αθηναϊκή οικογένεια. Τη δεκαετία του 1960 -1970 απαλλοτριώθηκε και αναστηλώθηκε από το Ελληνικό Κράτος. Έξι χρόνια μετά την ολοκλήρωσή του, τον Ιούλιο του 1976, άνοιξε τις πόρτες του για το κοινό, για να λειτουργήσει ως Μουσείο Παύλου και Αλεξάνδρας Κανελλοπούλου, στεγάζοντας το μεγαλύτερο μέρος της ιδιωτικής συλλογής του ζευγαριού, που απαριθμούσε ελληνικά έργα τέχνης από τους προϊστορικούς χρόνους έως το πρόσφατο παρελθόν.
Έπειτα από είκοσι χρόνια συνεχούς λειτουργίας του Μουσείου, το κτίριο παρουσίαζε σημαντικά σημάδια φθοράς, κυρίως εξαιτίας των υπογείων νερών που διέτρεχαν το βράχο της βορείου κλιτύος της Ακρόπολης. Το 1995 κρίθηκε επιτακτική η ανάγκη ανακαίνισης του κτιρίου, για την οποία εκπονήθηκε μελέτη από τη Διεύθυνση Μελετών του Μουσείου του Υπουργείου Πολιτισμού. Με την ολοκλήρωση του έργου το 1996, με χρηματοδότηση του Ταμείου Αρχαιολογικών Πόρων, η συλλογή οργανώθηκε με τον καλύτερο δυνατό τρόπο, κατά χρονολογική σειρά, θεματικές και γεωγραφικές ενότητες, ώστε να προσαρμόζεται άριστα στα επίπεδα και το χαρακτήρα του κτιρίου.
Από την ίδρυσή του έως το 2004, τα εκθέματα του μουσείου στεγάζονταν στους τρεις ορόφους της οικίας και στο χώρο του υπογείου, ωστόσο ο διαθέσιμος χώρος δεν επαρκούσε για να τα χωρέσει. Χίλια ακόμη αντικείμενα της συλλογής του ζεύγους Κανελλοπούλου, τα οποία είχαν ενταχθεί στα δωρητήρια συμβόλαια παρέμεναν στην αποθήκη του Μουσείου ή στο σπίτι των ιδιοκτητών τους.
Μοναδική λύση θα ήταν η επέκταση των χώρων του Μουσείου, η οποία θα έβγαζε στο φως τα αποθηκευμένα αντικείμενα αλλά και θα επέτρεπε τον καλύτερο διαχωρισμό των ενοτήτων των αρχαίων εκθεμάτων, τα οποία είχαν αναγκαστικά συσσωρευτεί.
Με πρωτοβουλία και χρηματοδότηση της Αλεξάνδρας Κανελλοπούλου αγοράστηκε το όμορο ανατολικά του Μουσείου οικόπεδο, όπου στη συνέχεια χτίστηκε η νέα πτέρυγα σε σχέδια του αρχιτέκτονα Παύλου Καλλιγά. Με την ολοκλήρωση της νέας προσθήκης του Μουσείου μπόρεσε να μεταφερθεί το σύνολο της συλλογής Κανελλοπούλου και να εκτεθεί ολοκληρωμένο στο κοινό. Αρωγός της προσπάθειας αυτής και του έργου του Μουσείου υπήρξε το Ίδρυμα Παύλου & Αλεξάνδρας Κανελλοπούλου.