En 1964 se unió al grupo de Fela Kuti en 1964, siendo crucial a la hora de crear esa mezcla de cultura centroafricana con jazz y funk que se dio en llamar afrobeat y que tanto ha influido en la música popular, también en la occidental, en las últimas décadas. Además de su batería, se erigió en director musical del grupo Africa 70 y Kuti, con el que rompió por cuestiones monetarias a finales de los 70 tras docenas de discos y giras juntos, llegó a decir que «sin Tony Allen, no habría afrobeat». También se dice que, tras su marcha, Fela pasó a emplear cuatro baterías en directo para cubrir su hueco.
A mediados de los 80 se trasladó a Londres, para establecerse definitivamente en París, donde comenzó a labrarse su propia carrera lanzando sus propios trabajos junto a la banda Afrobeat 2000, primero, y colaborando con infinidad de artistas de lo más variopinto después. Entre ellos, Damon Albarn, Simon Tong y Pete Simenon, con los que formaría el grupo The Good, The Bad & The Queen, con el que publicaría dos discos fantásticos: ‘The Good, The Bad & The Queen‘ (2007) y ‘Merrie Land‘ (2018). Aunque su último disco de estudio es ya el reciente ‘Rejoice‘, junto al trompetista sudafricano Hugh Masekela. Flea de Red Hot Chili Peppers o Brian Eno, entre otros, habían manifestado públicamente que Allen era el mejor batería del mundo.
Tras su muerte, Gorillaz han decidido compartir un nuevo single de su última serie Song Machine, en el que toca Tony Allen. ‘How Far?’ con Skepta a la voz principal, se grabó «antes del confinamiento» según informa la banda de Damon Albarn.