违章建筑并非全部都得拆。法律规定了两种情况，一是严重影响城市规划，比如在河道、滩涂内进行建设的，就必须拆；另一种是影响城市规划，尚可采取改正措施的，比如通过处以罚款、补办法律手续等，可以达到处罚目的，又可以减少当事人的损失，这样的建筑就不必须拆。

据此，拆迁过程中，“违章建筑”也应当分不同情况给予补偿。对于严重影响城市规划，建筑人未取得土地使用权的，应当补偿重置成本价；对于没有影响城市规划，建筑人取得土地使用权的，或者已经经过罚款但还没取得权利证明的，可以参照合法建筑的一定比例补偿。对于由于历史原因，在很长时间前已经建造（比如1981年之前）并实际使用的，应当视为合法建筑补偿。

从行政合理性的角度和行政执法行为自身的目的来看，执法局在执法时也应当替当事人着想，尽可能减少当事人的损失，这可以体现执法机关的文明执法的形象。

一座违章建筑，建成之后才发现，本身行政机关就未尽到职责；不区分情况盲目拆除，政府形象再次受损，这些都不是责任政府应当做出的行为。