El trabajo más recordado de Oliver es probablemente el asociado a la banda Pixies. Él diseñó las portadas de varios de sus discos, incluidas las de ‘Surfer Rosa’ (1988) y ‘Doolittle’ (1989), además de ‘Trompe Le Monde’ (1991), ‘Indie Cindy‘ (2014), ‘Head Carrier‘ (2016) y ‘Beneath the Eyrie‘ (2019). Además diseñó las cubiertas de álbumes clásicos como ‘Treasure’ de Cocteau Twins (1984), ‘It’ll End in Tears’ de This Mortal Coil (1984), el debut de Clan of Xymox (1985), ‘House Tornado’ de Throwing Muses (1988), ‘The Comforts of Madness’ de Pale Saints (1990), ‘Down Colorful Hill’ de Red House Painters (1992), ‘Last Splash’ de Breeders (1993), ‘Ask Me Tomorrow’ de Mojave 3 (1995), ‘The Drift’ de Scott Walker (2006) o más recientemente ‘Crazy Clown Time’ de David Lynch (2011) o ‘Fluorescence’ de Asobi Seksu (2011).
Ivo Watts-Russell, fundador de 4AD, ha recordado a Oliver en un emotivo comunicado publicado en Facebook, en el que ha recordado la amistad que compartieron y en el que ha detallado que, en los últimos años de su vida, Oliver había sufrido una «seria enfermedad» de la que sin embargo había logrado recuperarse. Pixies, Breeders y The Mountain Goats -que trabajaron frecuentemente con Oliver- se cuentan entre los artistas que han recordado al diseñador en las redes.