Smith comenzó su carrera como músico de sesión tocando el bajo en ‘Christmas Rappin’ de Kurtis Blow o contribuyendo a la composición de la que terminaría convirtiéndose en la primera canción de rap certificada con el Disco de Oro, ‘The Breaks’ del mismo Blow.
Pero fue su trabajo con Run-D.M.C. el que otorgó a Smith su reputación como uno de los productores más importantes de la historia del hip-hop. Smith produjo los dos primeros álbumes del grupo, ‘Run-D.M.C.’ (1984) y ‘Kings of Rock’ (1985), ambos junto al fundador de Def Jam Records y hermano de Joseph de Run-D-M.C., Russell Simons.
Los dos miembros restantes del legendario trío de hip-hop han mostrado en Twitter su pésame por la muerte de Smith: