税務局的行政處罰如何撤銷

依據我國相關法律的規定，税務部門對納税人作出行政處罰決定後，納税人對處罰不服的，可以申請行政複議或提起行政訴訟，複議或者訴訟通過後，處罰決定可以撤銷。
《中華人民共和國税收徵收管理法》
第八十八條，納税人、扣繳義務人、納税擔保人同税務機關在納税上發生爭議時，必須先依照税務機關的納税決定繳納或者解繳税款及滯納金或者提供相應的擔保，然後可以依法申請行政複議;對行政複議決定不服的，可以依法向人民法院起訴。
當事人對税務機關的處罰決定、強制執行措施或者税收保全措施不服的，可以依法申請行政複議，也可以依法向人民法院起訴。
當事人對税務機關的處罰決定逾期不申請行政複議也不向人民法院起訴、又不履行的，作出處罰決定的税務機關可以採取本法第四十條規定的強制執行措施，或者申請人民法院強制執行。