Heinsohn je u Boston Celticsima - franšizi koja je ukupno osvojila 17 NBA titula - proveo šest desetljeća, prvo kao igrač, potom kao trener, a zatim i kao komentator.

Tijekom igračke karijere, od 1956. do 1965. godine, Heinsohn je osvojio osam naslova prvaka prosječno postizavši 18.6 koševa uz 8.8 skokova po utakmici te je šest puta biran za nastup na All-Star utakmici.

Odmah po završetku njegove igračke karijere Celticsi su 1965. umirovili dres s brojem 15 kojega je nosio. Godine 1969. Heinsohn je postao trener Celticsa, a u toj je ulozi osvojio naslove prvaka 1974. i 1976. godine.

Jedan je od rijetkih bivših NBA igrača koji je kao igrač i trener ukupno osvojio deset NBA titula čime je ispisao povijest lige.

Kao trener je ostao na klupi do sezone 1977/78. kada je zbog lošeg omjera 11-23 dobio otkaz. Ukupno je kao trener imao omjer pobjeda i poraza 427-263 u ligaškom dijelu te 47-33 u doigravanju.

Od 1981. počeo je raditi kao stručni televizijski komentator na domaćim utakmicama Celticsa te je u toj ulozi ostao do smrti.

Zbog svojih uspjeha Heinsohn je primljen u košarkašku Kuću slavnih i kao igrač i kao trener, a tu počast osim njega zaslužili su samo još Bill Sharman, Lenny Wilkens i John Wooden.