Το 1966 μπαίνει στους Crawling King Snakes, μια blues μπάντα στην οποία τραγουδούσε κάποιος Robert Plant. Λίγο αργότερα θα τους εγκαταλείψει, αλλά θα καταλήξει να παίζει drums σε μια άλλη μπάντα του Plant, τους Band Of Joy. Όταν ο Jimmy Page ήθελε να κάνει μια καινούρια αρχή μετά τη διάλυση των The Yardbirds, συνάντησε τον Plant ο οποίος με τη σειρά του τού πρότεινε τον Bonham. Με την προσθήκη του John Paul Jones στο μπάσο, το lineup των Led Zeppelin ολοκληρώθηκε.
Γνωστός για τον ''μεγάλο'' του ήχο και το δυναμικό του παίξιμο, ο Bonham υιοθέτησε διάφορες επιρροές για να ανταποκριθεί στον ποικιλόμορφο ήχο των Led Zeppelin. Χαρακτηριστικό παράδειγμα είναι το περίφημο drum solo ''Moby Dick'', στο οποίο χρησιμοποιούσε ακόμη και τα χέρια του για να παράγει τους ήχους που ήθελε.
Στις 24 Σεπτεμβρίου 1980 ο Bonham ξεκίνησε να πάει στις πρόβες της επερχόμενης περιοδείας στις Η.Π.Α., την πρώτη από το 1977. Καθ' οδόν σταματάει για πρωινό και καταλήγει να πίνει μεγάλες ποσότητες βότκας, κάτι που συνεχίζει να κάνει σε όλη τη διάρκεια των προβών.. Εκείνο το βράδυ θα κοιμηθεί στο σπίτι του Jimmy Page στο Windsor της Αγγλίας. Την επόμενη μέρα ο John Paul Jones και ο Benji LeFevre, tour manager του συγκροτήματος, θα τον βρουν νεκρό. Είχε πεθάνει από αναρρόφηση. Το σώμα του John Bonham αποτεφρώθηκε και οι στάχτες του ενταφιάστηκαν στο Rushock, Worcestershire της Αγγλίας. Ήταν 32 ετών.
Τα εναπομείναντα μέλη των Led Zeppelin, αποφασίζουν να μην συνεχίσουν χωρίς αυτόν και με μια ανακοίνωση στις 4 Δεκεμβρίου 1980, διαλύονται.
