Το 1954 ιδρύθηκε επίσημα Αρχαιολογική Συλλογή στην Κίμωλο, χάρη στις προσπάθειες επιφανών Κιμωλίων για να αποτραπεί η μεταφορά στο Εθνικό Αρχαιολογικό Μουσείο των πολυάριθμων ευρημάτων (περισσότερα από 300 αγγεία) που ήρθαν στο φως από την ανασκαφή που διενήργησε ο τότε Έφορος Αρχαιοτήτων Ν. Κοντολέων στο νεκραταφείο της αρχαίας πόλης, στα Ελληνικά. Για τη στέγαση της Αρχαιολογικής Συλλογής το Αφεντάκειο Ίδρυμα παραχώρησε μία μικρή αίθουσα στο Γηροκομείο της Κιμώλου.


Οι προσπάθειες για εξεύρεση καταλληλότερης αίθουσας για τη στέγαση των αρχαίων έληξαν το 1970 με την αποδοχή από το Υπουργείο Πολιτισμού της δωρεάς της Ελίζας Βαφία, η οποία κληροδότησε τη διώροφη οικία του γιατρού Βαφία για τη στέγαση του Αρχαιολογικού Μουσείου της Κιμώλου.


Παρά τις συνεχείς προσπάθειες για την επισκευή της οικίας, ώστε να γίνει κατάλληλη για τη στέγαση του Μουσείου, πέρασαν πολλά χρόνια μέχρι να γίνει δυνατή η έναρξη των επισκευαστικών εργασιών του κτηρίου, που στο διάστημα αυτό είχε ερειπωθεί. Στο μεταξύ, τα αρχαία -ο αριθμός των οποίων είχε αυξηθεί από τα ευρήματα των σωστικών ανασκαφών στα Ελληνικά, αλλά και από τις επιφανειακές έρευνες και περισυλλογές- μεταφέρθηκαν το 1994 σε μισθωμένο από το ΥΠ.ΠΟ χώρο στον περίβολο του Γηροκομείου Κιμώλου, όπου δημιουργήθηκε μια προσωρινή, πρόχειρη έκθεση.


Το έργο της αποκατάστασης και μετατροπής της «οικίας Βαφία› σε Αρχαιολογικό Μουσείο (μαζί με τμήμα της διπλανής οικίας που απαλλοτριώθηκε για λειτουργικούς λόγους) ξεκίνησε το 1995 και ολοκληρώθηκε το 2001, με την ευθύνη και επίβλεψη της Δ/νσης Εκτελέσεως Έργων Μουσείων, οπότε παραδόθηκε από διοικητική άποψη για χρήση στην ΚΑ΄ ΕΠΚΑ. Το 2003 τα αρχαία μεταφέρθηκαν στο χώρο του Μουσείου και ξεκίνησαν οι εργασίες για την έκθεσή τους, δίνοντας τέλος στην περιπετειώδη πορεία τους. Το έργο της οργάνωσης των χώρων του Μουσείου και της μόνιμης έκθεσης των αρχαίων, που πραγματοποιήθηκε στο πλαίσιο του έργου «Αρχαιολογικό Μουσείο Κιμώλου›, ενταγμένου στο Περιφερειακό Επιχειρησιακό Πρόγραμμα Νοτίου Αιγαίου 2000-2006 με φορέα υλοποίησης την ΚΑ΄ ΕΠΚΑ, ολοκληρώθηκε το 2005.


Το Αρχαιολογικό Μουσείο Κιμώλου άνοιξε για το κοινό στις 11 Ιουλίου 2006. Εγκαινιάστηκε στις 4 Οκτωβρίου 2008.