Ο θάνατος του επήλθε στο σπίτι του στη Σάντα Φε του Νέου Μεξικού, όπου ήταν συνιδρυτής και διακεκριμένος καθηγητής του Ινστιτούτου της πόλης. Υπήρξε επίσης ομότιμος καθηγητής Θεωρητικής Φυσικής στο Τεχνολογικό Ινστιτούτο της Καλιφόρνια (Caltech) και είχε εργαστεί για αρκετά χρόνια στο CERN.
Ο Γκελ-Μαν ήταν αυτός που πρότεινε ότι τα πρωτόνια και τα νετρόνια δεν αποτελούν τους στοιχειώδεις δομικούς λίθους της ύλης, αλλά αποτελούνται από άλλα μικρότερα θεμελιώδη σωματίδια, τα οποία ονόμασε κουάρκ. Η ονομασία αυτή προέρχεται από την πρόταση «Three quarks for Muster Mark» στο μυθιστόρημα Finnegans Wake του Ιρλανδού Τζέιμς Τζόις. Αρκετά αργότερα αποδείχθηκε και πειραματικά η ύπαρξη των κουάρκ.
Ο Γκελ-Μαν μεταμόρφωσε σε καθοριστικό βαθμό τη σωματιδιακή φυσική των δεκαετιών του 1950 και 1960, σύμφωνα με τους «Τάιμς της Νέας Υόρκης», με την εντυπωσιακή ικανότητα του να ανακαλύπτει απόκρυφα πρότυπα και σχέσεις ανάμεσα στα στοιχειώδη σωματίδια του σύμπαντος. Μεταξύ άλλων, επινόησε τον όρο κβαντική χρωματοδυναμική (QCD), προώθησε τη θεωρία των υπερχορδών και εμβάθυνε στη μελέτη της πολυπλοκότητας (ιδίως στο Sante Fe Institute). Έγραψε κι ένα εκλαϊκευτικό βιβλίο με τον χαρακτηριστικό τίτλο «The Quark and the Jaguar: Adventures in the Simple and the Complex» («Το κουάρκ και ο ιαγουάρος: Περιπέτειες στο απλό και στο πολύπλοκο»).
Πολύγλωσσος, κοσμοπολίτης και με πολλαπλά ενδιαφέροντα από την αρχαιολογία και τη γλωσσολογία ως την ορνιθολογία, είχε κάτι από αναγεννησιακή φιγούρα. Είχε γεννηθεί το 1929 στο Μανχάταν από μετανάστες Εβραίους γονείς της Ανατολικής Ευρώπης. Σπούδασε με υποτροφία στο Πανεπιστήμιο Γιέηλ, πήρε το διδακτορικό του από το ΜΙΤ το 1951 και ο Ρόμπερτ Οπενχάιμερ («πατέρας» της ατομικής βόμβας) τον έφερε στο Ινστιτούτο Προηγμένων Μελετών του Πανεπιστημίου Πρίνστον, από όπου αργότερα πήγε στο Πανεπιστήμιο του Σικάγο και εργάσθηκε υπό την καθοδήγηση του διάσημου φυσικού Ενρίκο Φέρμι, προτού καταλήξει στο Caltech, όπου βρήκε το άλλο «ιερό τέρας» της Φυσικής, τον Ρίτσαρντ Φάινμαν.
Είχε παντρευτεί δύο φορές, ενώ δήλωνε ανθρωπιστής και αγνωστικιστής.