Τα αρχαιολογικά ευρήματα στην Κίμωλο υποδεικνύουν ότι το νησί κατοικείται τουλάχιστον από τη Νεολιθική εποχή. Σύμφωνα με την παράδοση, πρώτος οικιστής ήταν ο Κίμωλος, ο οποίος της έδωσε και το όνομά του. Άλλο όνομα με το οποίο ήταν γνωστό το νησί κατά την αρχαιότητα είναι Εχινούσα, πιθανώς από τις έχιδνες που ζούσαν (και ακόμα υπάρχουν) στο νησί (μια άλλα εκδοχή θέλει το όνομα να οφείλεται στους πολλούς αχινούς).
Κατά τον 5ο π.Χ. αιώνα η Κίμωλος ανήκε στην Αθηναϊκή Συμμαχία και αποτέλεσε πεδίο μαχών κατά τον Πελοποννησιακό Πόλεμο. Στα αρχαία εκείνα χρόνια χρονολογούνται και τα ερείπια της βυθισμένης πόλης στα Ελληνικά. Για τη Ρωμαϊκή και τη Βυζαντινή εποχή δεν υπάρχουν ιδιαίτερα στοιχεία για την Κίμωλο.
Από το 1207, όταν την κατέκτησε ο Μάρκος Σανούδος, μέχρι το 1537 η Κίμωλος ανήκει στο Δουκάτο της Νάξου. Εκείνη την εποχή αποκαλείται και Αρζαντιέρα. Το 1537 θα καταληφθεί από τον Μπαρμπαρόσα, ενώ το 1638 θα γνωρίσει μεγάλη καταστροφή από πειρατική επιδρομή, η οποία θα κάνει πολλούς κατοίκους να εγκαταλείψουν το νησί για άλλα μέρη στις Κυκλάδες (κυρίως τη Σίφνο). Γενικά οι πειρατικές επιδρομές αποτελούσαν μάστιγα για το νησί, μια μάστιγα που οι κάτοικοι προσπάθησαν να αντιμετωπίσουν χτίζοντας το Κάστρο.
Η Κίμωλος συμμετείχε στην Ελληνική Επανάσταση του 1821 και αποτέλεσε από την πρώτη στιγμή τμήμα του νεοσύστατου ελληνικού κράτους.