根据我国《行政处罚法》的相关规定，行政机关做出行政处罚决定之后，是可以撤销处罚决定书的。行政机关在发现行政处罚有错误以后，应该主动去改正。《中华人民共和国行政处罚法》第五十四条行政机关应当建立健全对行政处罚的监督制度。县级以上人民政府应当加强对行政处罚的监督检查。公民、法人或者其他组织对行政机关作出的行政处罚，有权申诉或者检举；
行政机关应当认真审查，发现行政处罚有错误的，应当主动改正。
二、行政处罚的管辖有什么规定
1、根据规定，行政处罚除法律、行政法规另有规定外，由违法行为发生地的县级以上地方人民政府具有行政处罚权的行政机关管辖。
2、县级以下(不包括县级)的行政机关如果没有法律、行政法规的另行规定或根据县级以上地方人民政府具有行政处罚权的行政机关的依法委托，不得享有、行使行政处罚管辖权。
3、两个以上依法享有行政处罚权的实施机关如对同一行政违法案件都有管辖权，在案件管辖上发生争议，双方又协商不成的，应报请共同的上一级行政机关指定管辖。
4、对行政违法案件有管辖权的行政机关若发现相应违法行为构成犯罪的，行政机关必须依法及时将案件移送司法机关，依法追究刑事责任。
违法行为经人民法院依法审判认定构成犯罪判处拘役或有期徒刑时，行政机关已经给予当事人行政拘留的，应当依法折抵相应刑期。
违法行为构成犯罪，人民法院判处罚金时，行政机关已经处以罚款的，应当折抵相应罚金。
