Το εντυπωσιακό κτίριο μπροστά στο λιμάνι, που στέγασε το Τελωνείο του νησιού την εποχή της οικονομικής ακμής της Σύρου σχεδιάστηκε και κτίστηκε από τον αρχιτέκτονα Αλέξανδρο Γεωργαντά τα χρόνια 1859-1861. Πρόκειται για ένα διώροφο κτίσμα με ισόδομη μαρμάρινη τοιχοποιία και πολλές λεπτομέρειες από μάρμαρο.

Ο πάνω όροφος έχει δίλοβα και τρίλοβα ανοίγματα που το κάνουν εντυπωσιακό αισθητικά, ενώ τα τονισμένα ακραία τμήματα της πρόσοψης δείχνουν ως πύργοι. Στο ισόγειο μια σειρά από πεσσούς που καταλήγουν σε τόξα δημιουργεί μια μακρόστενη στοά. Στην στέγη του κτιρίου ένα πλατύ γείσο με πολλούς και πυκνά διατεταγμένους γεισίποδες δημιουργούν ένα ωραίο παιχνίδισμα. Η όλη μορφολογία του κτιρίου παραπέμπει σε αντίστοιχα κτίσματα του γνωστού αρχιτέκτονα και πολεοδόμου Σταματίου Κλεάνθη που τα δημιούργησε για λογαριασμό της περίφημης Δουκίσσης της Πλακεντίας και στα οποία επιβλέπων ήταν ο Γεωργαντάς.

Κατά την διάρκεια των βομβαρδισμών του Δευτέρου Παγκοσμίου Πολέμου καταστράφηκε ένα σημαντικό κομμάτι του κτιρίου του Τελωνείου. Αμέσως μετά τις πολεμικές περιπέτειες ανακατασκευάστηκε με τρόπο που σεβάστηκε απόλυτα το αρχικό λαμπρό σχέδιο. Επίσης μεταπολεμικά κατασκευάστηκε μια προκυμαία, στην οποία σήμερα δένουν τα πλοία για τα οποία απαιτείται έλεγχος από τις τελωνειακές αρχές. Πάλι μεταπολεμικά διαμορφώθηκε μια σύγχρονη πλατεία μπροστά στο Τελωνείο με μεγάλες επιχωματώσεις και κατεδάφιση των διπλανών παλιών καρβουναποθηκών. Στην ίδια πλατεία υπάρχει ένα μνημείο τιμής για τους Έλληνες ναυτικούς, το γνωστό «Μνημείο του Αφανούς Ναύτη», ένα σημαντικό έργο του γνωστού γλύπτη Γιάννη Παππά που τοποθετήθηκε εδώ το 1974. Το έργο του μνημείου χρηματοδοτήθηκε συνολικά από την γνωστή εφοπλιστική οικογένεια Ν. Γουλανδρή. Ένα ακόμη κοσμητικό στοιχείο στην πλατεία είναι ο Ναυτικός Όμιλος Σύρου που ιδρύθηκε το 1933 και το 1969 στεγάστηκε στο ωραίο κτίριο που έγινε σε σχέδια του γνωστού αρχιτέκτονα Μιχάλη Τσιρώνη. Ο επισκέπτης από τον χώρο της πλατείας έχει την δυνατότητα να δει στο βάθος τη νησίδα Γάιδαρο, ή Δίδυμο με τον ψηλό πέτρινο Φάρο της.