Paul formó Pantera en 1981 junto a su hermano, el guitarrista Dimebag Darrell y el vocalista Terry Glaze, con quien publicarían tres discos antes de sustituirle Phil Anselmo en 1986. La formación completada por Rex Brown se convertiría, durante la década de los 90, en una de las bandas de heavy metal más influyentes del mundo, gracias al sonido “groove metal” exhibido en discos como ‘Cowboys from Hell’ (1990), ‘Vulgar Display of Power’ (1991) y ‘Far Beyond Driven’ (1994), que logró ser número uno de ventas en Estados Unidos.
Tras surgir tensiones entre Anselmo y el resto de miembros de Pantera, debido a la adicción de Anselmo a la heroína, Paul y su hermano Dimebag Darrell disolvieron Pantera en 2003 y formaron otra banda (sin Anselmo), Damageplan. Un año después, Dimebag sería asesinado de un disparo por un fan durante un concierto del grupo en Columbus, Ohio, en el que murieron otras cuatro personas, incluido el asesino. En 2006, Paul se integró en la formación de Hellyeah junto a Chad Gray de Mudvayne y Tom Maxwell de Nothingface.