Ο Ηπειρωτικής καταγωγής μεγαλοτραπεζίτης του Γαλατά, Χρηστάκης Ζωγράφος, χορήγησε με 10.000 χρυσές λίρες την ίδρυση της σχολής, με μοναδικό όρο να προαχθεί σε Πρακτικό Γυμνάσιο και να συντηρείται πάντοτε από την Κοινότητα, τη μόνη υπεύθυνη για τη διοίκησή της. Η Κοινότητα αποδέχεται με ευγνωμοσύνη τη γενναία αυτή δωρεά και αποφασίζει η υπό ίδρυση νέα Σχολή να φέρει το όνομα "Ζωγράφειον". Οι εργασίες οικοδόμησης ξεκίνησαν τον Μάιο του 1892 μετά την έκδοση του σχετικού αυτοκρατορικού φιρμανίου στις 26 Ραμαζανίου 1309. Τα εγκαίνια της Σχολής έγιναν στις 19 Σεπτεμβρίου 1893, παρουσία του Οικουμενικού Πατριάρχη Νεοφύτου.

Από την έναρξη της λειτουργίας του Ζωγραφείου μέχρι σήμερα, διετέλεσαν Διευθυντές και αναπληρωτές Διευθυντές της Σχολής οι εξής: Μιχαήλ Ι. Κεφάλας (1893-1901), Αλέξιος Ζαμαρίας (1901-1913), Αθανάσιος Ιωάννου, Μιχαήλ Σάγκας, Τζανής Παπαδόπουλος, Αλέξανδρος Ιατρόπουλος, Νικόλαος Καλαμαρτζής, Θεόδωρος Βαφειάδης, Θωμάς Νάτσινας (Αναπληρωτής), Βασίλειος Μούτσογλου (1939-1958), Δημήτριος Ιωαννίδης (1941-1942 Αναπληρωτής), Δημήτριος Φραγκόπουλος (1958-1993), Αντώνιος Παριζιάνος (1994-1995 Διευθύνων), Ιωάννης Δεμιρτζόγλου (από το 1995 μέχρι σήμερα). Στα πρώτα εκατό χρόνια της ζωής του, περίπου 10.000 παιδιά υπήρξαν μαθητές στο Δημοτικό, Γυμνάσιο ή Λύκειο του Ζωγραφείου.