Ο ναός βρίσκεται στη συμβολή των οδών Αγίας Σοφίας και Ερμού. Αφιερωμένος στο Χριστό, τον αληθή Λόγο και τη Σοφία του Θεού γιόρταζε στις 14 Σεπτεμβρίου την Ύψωση του Τιμίου Σταυρού.

Η αρχαιότερη γραπτή αναφορά στο ναό χρονολογείται το 795 αλλά τα αρχαιολογικά δεδομένα δείχνουν ότι κτίστηκε στα τέλη του 7ου αιώνα στη θέση πεντάκλιτης βασιλικής του 5ου αιώνα, η οποία καταστράφηκε από σεισμό περίπου το 620. Ο ναός αποτελεί τυπικό δείγμα μεταβατικού σταυροειδούς με τρούλλο και περίστωο, εξέλιξη του νέου αρχιτεκτονικού ρυθμού της τρουλλαίας βασιλικής. Στη διάρκεια της λατινοκρατίας στη Θεσσαλονίκη (1204-1224) ο ναός έγινε καθεδρικός των Λατίνων. Μετά την παλινόρθωση της βυζαντινής κυριαρχίας στην πόλη αποτέλεσε και πάλι την ορθόδοξη επισκοπική έδρα της Θεσσαλονίκης έως το 1523/24, επί Μακτούλ Ιμπραήμ Πασά, οπότε και μετατράπηκε σε τζαμί. Στη βορειοδυτική γωνία του κατασκευάστηκε πύργος ανόδου στα υπερώα, πιθανώς ως ο πρώτος μιναρές το τζαμιού. Το 1890 πυρκαϊά προκάλεσε καταστροφές στο κτίσμα, το οποίο αναστηλώθηκε το 1907-1909 από το βυζαντινολόγο Κάρολο Ντηλ. Στις 29 Ιουνίου 1913 ο χώρος καθαγιάστηκε εκ νέου και αποδόθηκε στη χριστιανική λατρεία. Μετά τους σεισμούς του 1978 ακολούθησαν εργασίες στερέωσης και αποκατάστασης στην ανωδομή και τον ψηφιδωτό διάκοσμο και παράλληλα διεξήχθη ανασκαφική έρευνα στο εσωτερικό του ναού και στον περιβάλλοντα χώρο του.

Ο ψηφιδωτός διάκοσμος του ναού έχει εκτελεστεί σε τρεις διαφορετικές περιόδους. Στα χρόνια της Εικονομαχίας ανήκει ο ανεικονικός διάκοσμος της καμάρας του ιερού βήματος με τους σταυρούς και τα φύλλα σε επάλληλα τετράγωνα, όπως πιστοποιούν και τα τρία ψηφιδωτά μονογράμματα του αυτοκράτορα Κωνσταντίνου Στ΄, της μητέρας του Ειρήνης της Αθηναίας και του επισκόπου Θεσσαλονίκης Θεοφίλου. Στην ίδια περίοδο χρονολογείται και ο μεγάλος σταυρός στο τετρατοσφαίριο της αψίδας, ίχνη του οποίου μόλις που διακρίνονται κάτω από την μεταγενέστερη, μέσα στον 11ο - 12ο αιώνα παράσταση της ένθρονης Παναγίας Βρεφοκρατούσας. Στον τρούλλο η μεγαλειώδης σύνθεση της Ανάληψης ανάγεται στα τέλη του 9ου αιώνα και αποτελεί κορυφαίο δείγμα της λεγόμενης ''Αναγέννησης της εποχής των Μακεδόνων αυτοκρατόρων''. Η επιγραφή στη βάση του τρούλλου, που αναφέρει το όνομα του αρχιεπισκόπου Θεσσαλονίκης Παύλου (880-885), δεν συσχετίζεται με την κατασκευή του ψηφιδωτού.

Οι τοιχογραφίες του ναού ανάγονται στον 11ο αιώνα και συνδέονται με την ανέγερση του νάρθηκα μετά το 1037. Διατηρούνται λίγες μορφές μοναχών αγίων τα τόξα των παραθύρων του και ανάμεσά τους η Αγία Θεοδώρα της Θεσσαλονίκης (δίπλα στη βόρεια είσοδο).

Ο γλυπτός διάκοσμος του ναού δεν είναι έργο μίας φάσης. Στους κίονες του ισογείου και στα κιονόκρανά τους χρησιμοποιήθηκε υλικό του 5ου και 6ου αιώνα. Ο άμβωνας, έργο του 5ου αιώνα, μεταφέρθηκε στην Κωνσταντινούπολη το 1905. Οι μαρμάρινοι κοσμήτες φαίνεται πως είναι σύγχρονοι της ανέγερσης του ναού.