Το τμήμα βόλεϊ του Ολυμπιακού ιδρύθηκε έναν χρόνο μετά το αντίστοιχο του ποδοσφαίρου, το 1926. Ανάμεσα στους πρώτους αθλητές ήταν ο Γιώργος, ο Ντίνος και ο Βασίλης Ανδριανόπουλος από την ιστορική πεντάδα του Ολυμπιακού.
Στην αρχή το τμήμα περιορίστηκε με συμμετοχή στα τοπικά πρωταθλήματα Πειραιά κατακτώντας δύο τίτλους το 1931 και το 1932. Το τμήμα αναστέλλει στην λειτουργία του 1936 αλλά το 1939 παίρνει μέρος στο πρωτάθλημα Αθήνας-Πειραιά «κατεβάζοντας ρολά» λόγω οικονομικών δυσκολιών στο τέλος της δεκαετίας του 1940.
Η νεότερη ιστορία του τμήματος ανδρών ξεκίνησε το 1960 ενώ με την κατασκευή γηπέδου δίπλα από εκείνο του μπάσκετ στο Πασαλιμάνι ανοίγει νέα σελίδα. Η ομάδα κερδίζει ανόδους και το 1962 προβιβάζεται στην πρώτη κατηγορία του πρωταθλήματος.
Η ομάδα με έφορο τον Γ. Χουρδάκη και με προπονητή τον Κώστα Αμπελά και παίκτες τους Τάσο Κουμπλή, Κυριάκο Παντελιά, Ανδρέα Λοράνδο, Θεοτόκη Μανουσαρίδη, Νίκο Κριτσοταλάκη, Δημήτρη Κεφάλα, Λαμπάκη, Φλώρο, Ντολγομπόλοφ, Ρέμπελο, Πάσαρη, Τραπεζουντίδη, Κωνσταντάρα, Αγαπητό, Σταυρόπουλο, Καραμήτσο, Κολοκοτρώνη κατακτά το πρώτο πανελλήνιο πρωτάθλημα το 1968 ενώ ακολουθεί και αυτό του 1969.
Η πρώτη «αυτοκρατορία» του Ολυμπιακού δημιουργήθηκε το 1973 και με παίκτες τους Τάσο Κουμπλή, Κυριάκο Παντελιά, Ανδρέα Λοράνδο, Στέφανο Πολύζο, Γιώργο Δερμάτη, Βασίλη Γαλάκο, Στέλιο Προσαλίκα, Γιάννη Λάιο, Αυγουστίνο Μίχαλο, Δημήτρη Χωριανό, Ηρακλή Δωριάδη κατέκτησε επτά Πρωταθλήματα (1974, 1976, 1978, 1979, 1980, 1981, 1983).
Παράλληλα, τη σεζόν 1981–82 ο Ολυμπιακός γίνεται η πρώτη ελληνική ομάδα που φτάνει σε final four του Κυπέλλου Πρωταθλητριών, κατακτώντας την τέταρτη θέση ενώ η ομάδα εκείνη κατέκτησε και τα πρώτα της κύπελλα το 1981 και το 1983.
Δεν πέρασαν περισσότερα από τέσσερα χρόνια προκειμένου να δημιουργηθεί μια ακόμη πανίσχυρη ομάδα. Ο Γιάννης Λάιος από το παρκέ μετακομίζει στον πάγκο και η ομάδα των Μιχάλη Τριανταφυλλίδη, Σάκη Μουστακίδη, Γιάννη Φάκα, Κώστα Γκουντάκο, Ανδρέα Θεοδωρίδη, Γιώργο Ντράγκοβιτς, Σωτήρη Αμαριανάκη, Δημήτρη Καζάζη, Γιώργο Λυκούδη και Βασίλη Ξεροβάσιλα μεταξύ άλλων, σάρωσε τους τίτλους.
Κατέκτησε οκτώ συνεχόμενα πρωταθλήματα από το 1987 μέχρι το 1994 δημιουργώντας ένα ακατάρριπτο μέχρι σήμερα ρεκόρ στην ιστορία του ελληνικού βόλεϊ. Από την εκπληκτική συγκομιδή της δεν έλειψαν και τα κύπελλα προσθέτοντας τέσσερα (1989, 1990, 1992, 1993) στην τροπαιοθήκη.
Η ομάδα του Γιάννη Λάιου φτάνει στην μεγαλύτερη στιγμή της το 1992 όταν και προκρίθηκε στον τελικό του κυπέλλου Πρωταθλητριών. Οι Πειραιώτες επικράτησαν στον ημιτελικό του final four 3-0 σετ της πανίσχυρης ΤΣΣΚΑ Μόσχας σε μια από τις σπουδαιότερες νίκες του συλλόγου. Να σημειώσουμε ότι οι Ρώσοι ήταν κάτοχοι του τροπαίου ενώ είχαν κατακτήσει συνολικά το τρόπαιο 13 φορές, επτά εκείνη την δεκαετία.
Στον τελικό της διοργανωσης, που διεξήχθη στις σ'ένα κατάμεστο από φιλάθλους του Ολυμπιακού Στάδιο Ειρήνης και Φιλίας, αντιμετώπισε την Παγκόσμια Πρωταθλήτρια Μεσατζέρο Ραβένα των αστέρων Φάμπιο Βούλο, Αντρέα Γκαρντίνι και των χρυσών Ολυμπιονικών του Λος Άντζελες και της Σεούλ Καρχ Κίραλι και Στιβ Τίμονς. Η Ραβένα μετά από εκπληκτική εμφάνιση κερδίζει τον Ολυμπιακό με 3–0 σετ και κατακτά το Πρωτάθλημα Ευρώπης, με τον Ολυμπιακό να παρατάσσεται λαβωμένος, αφού στο ζέσταμα χτύπησε το μεγάλο αστέρι της ομάδας Βίλντε.
Την ίδια χρονιά οι «ερυθρόλευκοι» κατέκτησαν την τρίτη θέση στον κόσμο στο Παγκόσμιο Κύπελλο Συλλόγων. Στον προκριματικό όμιλο της Φλωρεντίας, κέρδισαν 3–0 την Σανγκ Μου Σεούλ από την Κορέα και την Κοροζάλ Πουέρτο Ρίκο και έχασαν με το ίδιο σκορ από τη Σίσλεϊ Τρεβίζο. Στα τελικά του Τρεβίζο, έχασαν στον ημιτελικό 3–0 (15–13, 15–4, 16–14) από την ιταλική Μιλάνο και κέρδισαν στο μικρό τελικό 3–0 (15–6, 17–16, 15–7) τη Μεσατζέρο Ραβένα.
Η ομάδα της διετίας 1993-1994 με τον Ρώσο Βλάντιμιρ Κόντρα στον πάγκο, φτάνει δύο διαδοχικές χρονιές στο final four του Κυπέλλου Πρωταθλητριών, διαθέτοντας ένα πολύ ισχυρό ρόστερ με παίκτες διεθνούς κλάσης όπως ο Αμερικανός Σκοτ Φόρτσιουν, ο Σέρβος Ντέγιαν Μπρντζόβιτς, και ο Ρώσος Ιγκόρ Ρούνοφ. Τη σεζόν 1994–95 ο Ολυμπιακός αγωνίζεται για τρίτη συνεχόμενη χρονιά και για πέμπτη φορά στην ιστορία του σε final four του Κυπέλλου Πρωταθλητριών και καταλαμβάνει την τρίτη θέση.
Στις 10 Μαρτίου 1996, ανήμερα των γενεθλίων του συλλόγου είχε τη μεγαλύτερη επιτυχία της ιστορίας του, αφού κέρδισε με 3–2 σετ τη γερμανική Μπάγερ Βούπερταλ και κατέκτησε το Κύπελλο Κυπελλούχων. Σε ένα κατάμεστο από 18.000 κόσμο ΣΕΦ ο Ολυμπιακός κατέκτησε το πρώτο χρονικά Ευρωπαϊκό τρόπαιο της ιστορίας του, ενώ παραμένει μέχρι σήμερα η μοναδική ελληνική ομάδα που έχει καταφέρει κάτι τέτοιο.
Στον τελικό ο Γιάννης Λάιος χρησιμοποίησε τους: Μάριο Γκιούρδα, Σάκη Μουστακίδη, Οσβάλντο Ερνάντες, Ροδόλφο Σάντσες, Αντώνη Τσακιρόπουλο, Γιώργο Ντράγκοβιτς, Κώστα Χριστοφιδέλη, Σωτήρη Αμαριανάκη. Στον πάγκο κάθισαν οι: Γιώργος Λυκούδης, Ανδρέας Θεοδωρίδης, Νίκος Δούκας, Θανάσης Μιχαλόπουλος.
Το 1996 η διοίκηση του συλλόγου, προσέλαβε τον Ιταλό Τζιαν Πάολο Μοντάλι, προκειμένου να προχωρήσει σε σταδιακή ανανέωση.
Με ελληνικό κορμό τους Μάριο Γκιούρδα, Αντώνη Τσακιρόπουλο, Κώστα Χριστοφιδέλη, Βασίλη Κουρνέτα, Γιώργο Ντράγκοβιτς, Ανδρέα Θεοδωρίδη, Μάνο Ξενάκη με ξένους τους Τζεφ Στοκ, Ιγκόρ Ποπόφ, Χενκ Γιαν Χελντ, Ιβάιλο Γκαβρίλοφ και Πάολο Μέρλο ο Ολυμπιακός θα πάρει μέρος στο Ευρωπαϊκό σούπερ καπ καταλαμβάνοντας την τέταρτη θέση, στην πρώτη κα μοναδική συμμετοχή ελληνικής ομάδας στον θεσμό.
Ο Ολυμπιακός του Μοντάλι θα κατακτήσει δύο Κύπελλα (1997, 1998) και θα στεφτεί Πρωτάθλήτης Ελλάδος το 1998, επικρατώντας με 3-2 νίκες της Ορεστιάδας.
Ο Ολυμπιακός έχοντας σπουδαίους τεχνικούς στον πάγκο θα φτάσει στην κατάκτηση τεσσάρων πρωταθλημάτων (1999, 2000, 2001, 2003) και δύο Κυπέλλων (1999, 2001), με παίκτες την τριετία 1999-2001 τους: Χριστοφιδέλη, Γκιούρδα, Μηνούδη, Ουτζή, Κουρνέτα, Ζελιάσκοφ, Τσακιρόπουλο, Ντράγκοβιτς, Ξενάκη, Θεοδωρίδη, Βούγιεβιτς, Μπόσκαν, Καλαϊτζίδη, Ψαρρά, Ρόχα, Κυριαζή, Γκόμεζ, Τερζή, Δεληκώστα, Χάκινεν, Μπατιστάτο και Μίγιτς.
Τη σεζόν 2001–02 ο Ολυμπιακός του Ντανιέλε Ρίτσι θα πραγματοποιήσει μια εκπληκτική πορεία στο Tσάμπιονς Λιγκ, φτάνοντας στο final four στο Οπόλε της Πολωνίας. Στον ημιτελικό απέκλεισε με 3-1 σετ την πολωνική Μόστοσταλ ενώ στον τελικό θα αντιμετώπιζε την ιταλική Λούμπε Μπάνκα Ματσεράτα, χωρίς όμως τον Μάριο Γκιούρδα που στον ημιτελικό είχε υποστεί διάστρεμμα.
Τελικά μετά από σκληρό ματς το οποίο κρίθηκε στις λεπτομέρειες η Ματσεράτα, εκμεταλλευόμενη και την απουσία του Γκιούρδα, θα νικήσει με 3–1 σετ και θα στεφθεί Πρωταθλήτρια Ευρώπης. Ήταν η δεύτερη συμμετοχή του Ολυμπιακού στον τελικό της κορυφαίας διασυλλογικής διοργάνωσης.
Το 2003, ο Ολυμπιακός επανήλθε στην κορυφή της Ελλάδας κατακτώντας το εγχώριο πρωτάθλημα μετά από διάστημα ενός χρόνου. Οι παίκτες που αποτελούσαν το ρόστερ της πρωταθλήτριας ομάδας του 2003 ήταν οι: Χριστοφιδέλης, Γκιούρδας, Κυριαζής, Μηνούδης, Κουρνέτας, Χαλντέιν, Δεληκώστας, Τσακιρόπουλος, Γκόμεζ, Ξενάκης και Κονσταντίνοφ.
Την περίοδο 2004–05 αναλαμβάνει ο Αργεντίνος Κλαούντιο Κουέγιο και o Ολυμπιακός, με ηγέτη τον Αργεντινό διαγώνιο Μιλίνκοβιτς που είχε αποκτηθεί εκείνη την χρονιά (ανακυρήχθηκε πολυτιμότερος παίκτης της διοργάνωσης), επικράτησε στο κατάμεστο ΣΕΦ της ολλανδικής Όρτεκ Νεσελάντε με 3–0 σετ (25–23, 25–18, 25–23) στον τελικό του final four του Top Teams Cup και κατέκτησε τον δεύτερο ευρωπαϊκό του τίτλο.
Έξι χρόνια ξηρασίας για τον Ολυμπιακό ήταν αρκετά και το 2009 η ομάδα επέστρεψε στην κορυφή, κατακτώντας το Νταμπλ με προπονητή τον Άντερς Κρίστιανσον και αιχμή του δόρατος, τον Σέρβο Ιβάν Μίλκοβιτς έναν από τους καλύτερους διαγώνιους στον κόσμο. Στο Πρωτάθλημα, με μειονέκτημα έδρας παίρνει τον τίτλο επί του Παναθηναϊκού με 3–1 νίκες ενώ και στο Κύπελλο επικρατεί των πρασίνων στον τελικό με 3–2 σετ. Η ομάδα του Ολυμπιακού αποτελούνταν από τους Χριστοφιδέλη, Ριβέρα, Σουλτανόπουλο, Ρεζκ, Τσέργα, Κουρνέτα, Κουζούνη, Καραγιάννη, Χοφ, Καρυπίδη, Ρουμελιώτη, Τζούριτς, Μάρκεζ, Μίλκοβιτς, Ούρναουτ και Παπαδημητρίου.
Το 2010 ένα ακόμη Πρωτάθλημα, κατέληξε σε «ερυθρόλευκα» χέρια αφού ο Ολυμπιακός με προπονητή τον Γιάννη Καλμαζίδη επικράτησε με 3–1 νίκες του Παναθηναϊκού, ο οποίος είχε το πλεονέκτημα έδρας ενώ οι Πειραιώτες κατέκτησαν και το σούπερ Καπ με 3–1 σετ στην Σαντορίνη. Στο Tσάμπιονς Λιγκ εκείνης της χρονιάς ο Ολυμπιακός πραγματοποίησε μια εξαιρετική παρουσία, φτάνοντας μέχρι την τελική 6άδα.
Το 2011 οι ερυθρόλευκοι θα κατακτήσουν ένα ακόμη Νταμπλ με προπονητή και πάλι τον Γιάννη Καλμαζίδη. Κέρδισαν το Πρωτάθλημα με μειονέκτημα έδρας και 3–0 νίκες κόντρα στον Ηρακλή,ενώ και στο Κύπελλο οι 2 ομάδες βρέθηκαν αντίπαλες στον τελικό της Ορεστιάδας, με τον Ολυμπιακό να επικρατεί κι εκεί με 3–1 σετ.
Το 2013 ο Ολυμπιακός με προπονητή τον Δημήτρη Καζάζη, κατέκτησε το 13ο Ντάμπλ της ιστορίας του, κερδίζοντας το Πρωτάθλημα με 3–1 νίκες επί του Παμβοχαϊκού και το Κύπελλο Ελλάδος, νικώντας 3–0 σετ στον τελικό τον Φοίνικα Σύρου στο Ρέθυμνο. Παράλληλα, κατέκτησε και το Λιγκ Καπ με νίκη 3–0 σετ επί του Α.Ο. Κηφισιάς στο Βραχάτι.
Το 2014 ο Ολυμπιακός κατέκτησε το 14ο Νταμπλ της ιστορίας του, κερδίζοντας το Πρωτάθλημα (το 27ο) με 3–0 νίκες επί του Εθνικού Αλεξανδρούπολης και το Κύπελλο Ελλάδος (το 15ο) νικώντας 3–1 σετ στον τελικό τον Α.Ο. Κηφισιάς στην Καλαμάτα
Το τμήμα βόλεϊ γυναικών του Ολυμπιακού ιδρύθηκε το 1930 και η πορεία του πέρασε από σαράντα κύματα. Παρά την σταθερή πορεία των πρώτων χρόνων το τμήμα ανέστειλε την λειτουργία του το 1950. Το τμήμα δηλώνει στο πρωτάθλημα του 1970 αλλά δε λαμβάνει ποτέ μέρος και επανεμφανίζεται το 1988 με τον Γιώργο Κοσκωτά στο τιμόνι της διοίκησης.
Ωστόσο και πάλι δεν καταφέρνει να έχει ευρυθμη λειτουργία αφού με απανωτά «ανεβοκατεβάσματα» στις κατηγορίες υπήρξε μέχρι και πρόταση περί διάλυσης του τμήματος του 2004. Από εκείνη την σεζόν και μετά αρχίζει η σταδιακή άνοδος του τμήματος που επανέρχεται στην κορυφαία κατηγορία το 2006 ενώ τη σεζόν 2007-2008 συμμετέχει για πρώτη φορα στα ευρωπαϊκά κύπελλα.
Από το 2007 το τμήμα ενισχύουν σημαντικοί οικονομικοί παράγοντες και δεν αργούν να έρθουν οι πρώτες συμμετοχές σε τελικούς αλλά και ο πρώτος τίτλος το 2011 όταν και επικρατεί της ΑΕΚ με 3-2 στο τελικό του κυπέλλου. Από τότε ο Ολυμπιακόυ θεωρείται κυρίαρχη δύναμη στο γυναικείο βόλεϊ έχοντας κατακτήσει τέσσερα κύπελλα και μάλιστα συνεχόμενα (ρεκόρ) και δύο πρωταθλήματα. 
Οι τίτλοι (όπως αναφέρονται στην ιστοσελίδα του ερασιτέχνη Ολυμπιακού)ΑΝΔΡΩΝ
Πρωταθλήματα Ελλάδος (27): 1968, 1969, 1974, 1976, 1978, 1979, 1980, 1981, 1983, 1987, 1988, 1989, 1990, 1991, 1992, 1993, 1994, 1998, 1999, 2000, 2001, 2003, 2009, 2010, 2011, 2013, 2014
Κύπελλα Ελλάδος (15): 1981, 1983, 1989, 1990, 1992, 1993, 1994*, 1997, 1998, 1999, 2001, 2009, 2011, 2013, 2014
Σούπερ Καπ Ελλάδος (2): 2000, 2010
Λιγκ Καπ Ελλάδος (1): 2013
Κύπελλα Κυπελλούχων Ευρώπης (2): 1996, 2005 (Top Teams Cup)
Πρωταθλήματα Ελλάδος (2): 2013, 2014
Κύπελλα Ελλάδος (4): 2011, 2012, 2013, 2014
* Το 1994 δεν έγινε Κύπελλο, αλλά ένα τουρνουά υπό τη μορφή φάιναλ φορ στο Λουτράκι αφιερωμένο στη μνήμη της Μελίνας Μερκούρη. Στο τουρνουά αυτό δεν έλαβαν μέρος οι διεθνείς παίκτες που προετοιμάζονταν με την Εθνική ομάδα για το Κοσμοβόλεϊ της Αθήνας.
