Το Κρατικό Ωδείο Θεσσαλονίκης ιδρύθηκε το 1914, όταν στον νόμο 349 στο άρθρο 1 που δημοσιεύτηκε στο φύλλο 325 της Εφημερίδας της Κυβερνήσεως, τεύχος Α’, την 10 η Νοεμβρίου της ίδιας χρονιάς, αναφέρεται ότι: «Ιδρύεται εν Θεσσαλονίκη σχολή οργανικής και φωνητικής μουσικής υπό την επωνυμία «Ωδείον Θεσσαλονίκης»». Έτσι αποφασίστηκε από τον τότε Πρωθυπουργό Ελευθέριο Βενιζέλο η δημιουργία θεσμικού πλαισίου διδασκαλίας της Ευρωπαϊκής μουσικής στην Ελλάδα και υποστήριξης και προαγωγής της Ελληνικής μουσικής δημιουργίας.
Η απόφαση του Ελευθέριου Βενιζέλου αποσκοπούσε στην κοινωνική συσπείρωση και μορφωτική ανασυγκρότηση της προσφάτως απελευθερωμένης και πολυπολιτισμικής πόλης της Θεσσαλονίκης και είχε ως στόχο την στήριξη ευρύτερα της μουσικής παιδείας και καλλιέργειας, εκπαιδεύοντας τους πολίτες και συμβάλλοντας στην άνοδο του επιπέδου της πολιτιστικής ζωής μέσα από συναυλίες, συμμετοχή σε ορχήστρες και άλλα οργανικά σύνολα, μπάντες και χορωδίες.
Πρώτος διευθυντής του Κ.Ω.Θ. ορίστηκε ο εξέχων βιολονίστας Αλέξανδρος Καζαντζής, ο οποίος με τις εξαιρετικές διοικητικές του ικανότητες, την ακλόνητη αφοσίωση και την σκληρή δουλειά κατάφερε να ξεπεράσει όλων των ειδών τα εμπόδια, ώστε να εδραιωθεί το «Ωδείον Θεσσαλονίκης» και μετέπειτα Κρατικό Ωδείο Θεσσαλονίκης ως ο βασικός μουσικός και εκπαιδευτικός πυλώνας καλλιτεχνικής καθοδήγησης στη Βόρεια Ελλάδα και σε όλη τη χώρα στο πρώτο μισό του 20 ου αιώνα.
Στην ιστορική διαδρομή του το Κ.Ω.Θ. συνδέθηκε με λαμπρές μουσικές προσωπικότητες του τόπου αλλά και με μουσικούς διεθνούς ακτινοβολίας. Στην ομάδα των πρώτων καθηγητών του Κ.Ω.Θ. ανήκαν σπουδαίοι καλλιτέχνες όπως ο Αιμίλιος Ριάδης, ο Λώρης Μαργαρίτης, ο Τέο Κώφμαν, ο Βασίλειος Θεοφάνους, ο Ευρυπίδης Κοτσανίδης, ο Γεώργιος Βακαλόπουλος, η Καρολίνα Καπάσο και ο Ιωάννης Κοπανάς, οι οποίοι παρέμειναν και προσέφεραν στο ίδρυμα μέχρι την απόσυρση ή τον θάνατό τους. Εν συνεχεία άριστοι απόφοιτοι του ιδρύματος προστέθηκαν στο διδακτικό δυναμικό του, όπως ο Χρήστος Δέλλας, η Ίντα Μαργαρίτη και ο Διονύσιος Ορπής.
Το στίγμα τους στη μουσική διδασκαλία του Κ.Ω.Θ. άφησαν επίσης σημαντικότατες μουσικές προσωπικότητες όπως μεταξύ άλλων ο Επαμεινώνδας Φλώρος, ο Διονύσιος Βοσβάρδης, ο Αθανάσιος Κοντός, η Ιωάννα Νεδέλκου, η Νόρα Λουκίδου, ο Γιώργος Θυμής, ο Κοσμάς Γαλιλαίας, ο Μανώλης Καζαμπάκας, ο Άγγελος Καμηλιέρης, η Φανή Αϊδαλή, ο Σόλων Μιχαηλίδης, ο Κυριάκος Πάτρας και ο Τάσος Παππάς. Ιδιαίτερα σημαίνουσα είναι η κληρονομιά που άφησαν οι δύο σπουδαίοι διευθυντές επί σειράν ετών του Κ.Ω.Θ., ο συνθέτης και διευθυντής ορχήστρας Σόλων Μιχαηλίδης και ο συνθέτης και μουσικολόγος Γιώργος Θέμελης, οι οποίοι συνέβαλαν καθοριστικά στον εμπλουτισμό των συλλογών του ιδρύματος και άφησαν συνολικά ανεκτίμητη μουσική παρακαταθήκη στην πόλη της Θεσσαλονίκης, ο πρώτος με την ίδρυση της
Κρατικής Ορχήστρας Θεσσαλονίκης, η οποία αρχικά στελεχώθηκε με αποφοίτους του ωδείου, και ο δεύτερος με τη συμβολή του στην ίδρυση του πρώτου μουσικού πανεπιστημιακού τμήματος στην Βόρεια Ελλάδα, στο οποίο προσέφερε και στη συνέχεια τις υπηρεσίες του.
Η ιστορία του Κ.Ω.Θ. αρχίζει να συμπορεύεται με αυτήν του ιστορικού κτηρίου της οδού Φράγκων από το 1987.
Σήμερα, στο Κ.Ω.Θ. εξακολουθούν να προσφέρουν τις γνώσεις και την εμπειρία τους σημαντικοί καλλιτέχνες διεθνούς κύρους. Το Κρατικό Ωδείο Θεσσαλονίκης αποτελεί για πάνω από 100 χρόνια έναν άσβηστο φάρο μουσικού πολιτισμού, καθιστώντας με την παρουσία του την πόλη της Θεσσαλονίκης κοιτίδα της λόγιας μουσικής τέχνης και συνδράμοντας την κοινωνία με το εκπαιδευτικό του έργο.