Джоэл Холмс начал самостоятельно изучать музыку в возрасте 10 лет. Он рос, играя с вокальными ансамблями, в большинстве своём в церквях. Вскоре его семья переехала из Вирджинии в Балтимор и теперь он мог посещать Школу исполнительского искусства Балтимора. Позже Джоэл Холмс станет директором Джаза в своей alma mater. Он учился в консерватории Пибоди в Университете Джона Хопкинса где получил степень бакалавра по специальности Джазовое исполнительство.
На протяжение нескольких лет, Джоэл стал обладателем многочисленных наград включая 3 номинации на Grammy, золотую медаль NAACP (Национальной ассоциацией содействия прогрессу цветного населения за достижения в сферах кино, телевидения, театра, музыки и литературы), почетный знак на конкурсе авторов песен имени Джона Ленона, стал финалистом пятой ежегодной Независимой Музыкальной Премии (Independent Music Awards), и был отмечен почетным знаком на VH1 Песня Года (Song of the Year Awards).
На протяжении последних лет, Джоэл участвовал в мировом турне с лауреатом Grammy джазовым трубачом Роем Харгоровом и вокалисткой Нненой Фрилон. В настоящий момент играет в составе квартета саксофониста Джейвона Джексона бывшего участника «Jazz Messengers» Арта Блэйки.