Il più grande trombonista in assoluto, il primo che riuscì a adottare il linguaggio be-bop,
diventando un ottimo partner per Parker. 
Molto apprezzato dai musicisti e poco conosciuto dal pubblico, dovette
darsi da fare con lavori extramusicali, finchè nel 1954, la fortuna arrivò col nome di
Jay & Kai, un duo di tromboni formato assieme a Kai Winding.
Il gruppo durò solo due anni, ma si riformò più volte successivamente, seppur
solo occasionalmente.
Dopo un po' di anni come leader, passò con Miles Davis all'inizio degli anni 60,
per poi sparire gradualmente dalla scena jazz, impegnato ormai in colonne
sonore per cinema e tv.
Alla fine degli anni 70 ritornò alla ribalta, rimanendovi praticamente fino alla morte.

The Eminent Jay Jay Johnson, Vol. 1 (1953) Blue Note

Clifford Brown, Jimmy Heath più 3/4 del primo Modern Jazz Quartet (John Lewis, Percy Heath e Kenny Clarke) in un disco eccellente.

The Great Kai & J. J. (1960) Impulse
Il duo Jay and Kai (Winding) ottenne un grande successo negli anni 50. Questa reunion è forse meglio dei primi successi. Musicisti di classe, tra cui Bill Evans.

Concepts in Blue (1980) Pablo

Dopo aver fatto di tutto come musicista, J.J. torna al jazz con un divertentissimo album pieno di energia e grandi musicisti (Clark Terry e Ernie Watts). Qualche sonorità un po' possata di moda, come il piano elettrico, ma grandi assoli.
.

Things Are Getting Better All the Time (1983) Pablo

Un incontro con.un altro grande trombonista (Al Grey), non più basato però sulle sofisticate armonizzazioni del duo Jay-Kai, ma su un dialogo rilassato ma mai fiacco. Kenny Barron, Ray Brown e Mickey Roker alla batteria, sono una ritmica perfetta.

Brass Orchestra (1996) Verve

Con la maturità, le capacità compositive e di arrangiatore, lo spingono verso il linguaggio della grande orchestra (di ottoni). L'ombra di Gil Evans fa capilino qua e là. Grandi musicisti.