Ranglin spielte bereits im Kindesalter leidenschaftlich Ukelele, in seiner Jugend trat er auf Jamaika und den Bahamas auf - häufig mit dem Musiker Monty Alexander. Seine musikalische Karriere begann in den 1950er Jahren, wie bei vielen karibischen Musikern, als Gitarrist und Arrangeur in jamaikanischen Hotel-Bands, die einen Stilmix aus Jazz und karibischen Rhythmen zur Unterhaltung der Touristen spielen. Er machte in den späten 1950er Jahren erste Aufnahmen für die Soundsystems von Clement "Sir Coxsone" Dodd, Duke Reid und Prince Buster. Als Arrangeur in Clement Dodds "Studio One" wirkte er stilbildend für den Ska der 1960er Jahre. Er arbeitete mit allen bedeutenden Ska-Musikern Jamaikas wie Prince Buster, dem Saxophonisten Roland Alphonso oder auch Byron Lee zusammen. Weiter gehörte er zur Jamaican Big Band von Sonny Bradshaw. Auf dem japanischen Label Dub Store Records erscheint sein "Softly With Ranglin" Album von 1969 als Wiederveröffentlichung.