Ο Σάρμαν έμεινε στην ιστορία μαζί με τον Μπομπ Κούζι ως ένα από τα καλύτερα δίδυμα που πέρασαν από τα παρκέ του καλύτερου πρωταθλήματος στον κόσμο και έγινε γνωστός για το φαρμακερό του σουτ.
Αν και ξεκίνησε την καριέρα του ως επαγγελματίας παίκτης του μπέιζμπολ, όταν και αγωνίστηκε από το 1950 ως το 1955 στους Brooklyn Dodgers, έγινε ταυτόχρονα ντραφτ από τους Washington Capitols, όπου έπαιξε για μία σεζόν και, στη συνέχεια μεταπήδησε στη Βοστόνη, όπου διέπρεψε για δέκα χρόνια μέχρι το τέλος της καριέρας του το 1961. Με τους «Κέλτες» αναδείχθηκε Πρωταθλητής NBA τέσσερις φορές, το 1957, το 1959, το ’60 και το ’61.
Στο διάστημα αυτό έχει να επιδείξει αξιομνημόνευτα ρεκόρ, με πρώτο την απίστευτη ευστοχία του στις ελεύθερες βολές, βγαίνοντας πρώτος σε ποσοστό επτά φορές, ενώ το ρεκόρ του με 93,2% που δημιούργησε τον 1959 έμεινε ακατάρριπτο για περίπου είκοσι χρόνια. Ο Σάρμαν διατηρεί ακόμα το ρεκόρ των 56 συνεχόμενων εύστοχων βολών σε playoffs. Έγινε μέλος της καλύτερης πεντάδας του AllStargameαπό το 1956 ως το 1959 και μέλος της δεύτερης ομάδας στις διοργανώσεις του 1953, του 1955, όταν και αναδείχθηκε MVP και του 1960.
Ο Σάρμαν είχε να επιδείξει σπουδαία κατορθώματα και ως προπονητής. Το 1970-’71 οδήγησε του Utah Stars στο Πρωτάθλημα του ABA και την επόμενη χρονιά ανέλαβε τους Los Angeles Lakers, με τους οποίους κατέκτησε το Πρωτάθλημα NBA 1971, έχοντας ανακηρυχθεί Προπονητής της χρονιάς. Στους «Λιμνανθρώπους» παρέμεινε ως μέλος της διοίκησης.
Έγινε μέλος του BasketballHallofFame το 1976 ως παίκτης και το 2004 ως προπονητής, όντας μόλις ο τρίτος πίσω από τον Τζον Γούντεν και τον Λένι Γουίλκενς που το πετυχαίνουν. Το 1996 ανακηρύχθηκε και ως ένας από τους 50 καλύτερους παίκτες όλων των εποχών στο NBA.
Ο Σάρμαν ανέπτυξε και φιλανθρωπική δράση, καθώς λίγους μήνες πριν, αποφάσισε να δώσει σε δημοπρασία το δαχτυλίδι του Πρωταθλητή που κατέκτησε το 2010 ως μέλος της Διοίκησης των Lakersπροκειμένου να διαθέσει τα χρήματα για φιλανθρωπικούς σκοπούς.
Η ομιλία του Μπιλ Σάρμαν κατά την είσοδό του στο Hall of Fame: