Το καλοκαίρι του 1982 ο Γιάννης Ιωαννίδης επιστρέφει στον πάγκο του αγαπημένου του Άρη, με τον οποίο έζησε σπουδαίες στιγμές ως παίκτης, ξεκινώντας τη δεύτερη θητεία του στους «κιτρινόμαυρους» ως προπονητής. Είναι ο άνθρωπος που θα δημιουργήσει την ομάδα που θα κυριαρχήσει στην Ελλάδα για σχεδόν μία δεκαετία. Με τον Νίκο Γκάλη στο ρόστερ του, ο Άρης θα σαρώσει τους εγχώριους τίτλους, όμως το πιο σημαντικό είναι πως μετέπειτα θα επιστρέψει σε ευρωπαϊκό Final-4.
Τη σεζόν 1987–88 ο Άρης του Γιάννη Ιωαννίδη παρουσιάζει μία από τις καλύτερες συνθέσεις της ιστορίας του, με τον Νίκο Γκάλη και τον Παναγιώτη Γιαννάκη ως ηγέτες της ομάδας, αλλά και τον Λευτέρη Σούμποτιτς, τον Καναδό Γκρεγκ Γουίλτζερ, το Νίκο Φιλίππου, το Μιχάλη Ρωμανίδη και το Βασίλη Λυπηρίδη. Μία ομάδα που θα προκριθεί στο Final-4 του Κυπέλλου πρωταθλητριών, το οποίο θα διεξαχθεί στη Γάνδη. Στον ημιτελικό της διοργάνωσης αντιμετώπισε την Τρέισερ Μιλάνου από την οποία ηττήθηκε με 87–82 και τελικά κατετάγη τέταρτος αφού ηττήθηκε και στον μικρό τελικό από την Παρτιζάν με 105–93. Ο Γιάννης Ιωαννίδης, ωστόσο, είχε επαναφέρει τον Άρη στα… μεγάλα σαλόνια της Ευρώπης.
Ένα χρόνο αργότερα ο «Ξανθός» του ελληνικού μπάσκετ, διατηρώντας τον ίδιο κορμό στην ομάδα, θα οδηγήσει τον Άρη σε ένα ακόμη Final-4 Κυπέλλου πρωταθλητριών, αυτή τη φορά στο Μόναχο. Στον ημιτελικό αντιμετώπισε την Μακάμπι Τελ Αβίβ μπροστά σε 8.000 Έλληνες φιλάθλους. Η ήττα με 99–86 οδήγησε τον Άρη στον μικρό τελικό της διοργάνωσης όπου και νίκησε την Μπαρτσελόνα με 88–71 με 36 πόντους του Νίκου Γκάλη.
Μπορεί η ευρωπαϊκή υπέρβαση που έψαχναν όλοι στον Άρη να μην ολοκληρώθηκε, όμως ο Γιάννης Ιωαννίδης, έχοντας δημιουργήσει μία εξαιρετική ομάδα, θα οδηγήσει τον Άρη για τρίτη συνεχόμενη χρονιά τους Θεσσαλονικείς στο Final-4 του Κυπέλλου Πρωταθλητριών. Ούτε τη σεζόν 1989-90 όμως θα καταφέρουν να προκριθούν στον τελικό της διοργάνωσης. Στον ημιτελικό ο Άρης θα αντιμετωπίσει την Μπαρτσελόνα επί ισπανικού εδάφους. Εκεί θα ηττηθεί με 104–83 και στον μικρό τελικό θα αντιμετωπίσει τη γαλλική Λιμόζ από την οποία θα χάσει με 103–91. Εκείνο το καλοκαίρι θα κλείσει και ο κύκλος του Γιάννη Ιωαννίδη στο «τιμόνι» του Άρη.