Es lo que ha dicho @pichi antes, si una palabra o símbolo tiene varios significados, pues obviamente hay que considerarlos todos antes de usarlx a la ligera. Con que uno pueda ser ofensivo es suficiente.
No sé, por poner un ejemplo bruto, la esvástica no sólo es el emblema del nazismo.