Bien qu’il n’ait jamais percé comme artiste de grande renommée, Little Sammy Davis a eu une longue histoire musicale en jouant des légendes comme Muddy Waters et Little Walter. Né le 28 novembre 1928 dans le Mississippi à Winoma, il apprend l’harmonica dès l’âge de huit ans et commence de jouer dès les années quarante dans les medicine shows. Il joue avec Pinetop Perkins, Ike Turner, puis tourne avec Earl Hooker durant 9 ans et avec qui il enregistre en 1952 et 1953 deux singles crédités au nom de Little Sam Davis chez le label Henry Stone's Rockin'.

À la fin des années cinquante, il s’installe à Chicago et joue avec Muddy Waters, Jimmy Reed et Little Walter. Il se marie puis s’installe dans les années soixante-dix à New York, où il enregistre en 1971 Some Day Blues pour un folkloriste local. Après la disparition prématurée de son épouse en 1973, Little Sammy Davis disparaît complètement de la scène. Certains pensent qu’il est retourné dans le Mississippi, ou qu’il est décédé. Ce n’est que dans les années 1990 qu’il est redécouvert par hasard, et retrouve le succès grâce à des émissions de radio, dans lesquelles il se produit avec un autre bluesman, Midnight Slim. Les deux compères tournent alors dans les clubs et les festivals de la côte est. Little Sammy Davis enregistre en 1996 son premier disque complet chez Delmark Records, I Ain't Lyin, disque qui est nominé pour un W. C. Handy Award. Dans les années suivantes, d’autres disques paraissent et Little Sammy Davis met son talent au service d’œuvres caritatives. Au début des années 2000, il se lie d’amitié avec Levon Helm, ancien batteur du groupe qui accompagnait Bob Dylan, et se produit sur scène avec lui a diverses occasions. Un de leur concert est enregistré pour l’album Levon Helm bans Starring Little Sammy Davis : The Midnight ramble Sessions volume One. En 2008 et 2009, Little Sammy Davis est sujet à deux attaques cardiaques successives qui le laissent paralysé. Little Sammy Davis, dont la vie a fait l’objet d’un documentaire en 2002, est décédé à New York, le 16 février 2018, à 89 ans.