对违法的建筑进行强制拆除是不是合法的，要依据强拆的程序是否合法而定，如果按法律规定的程序强拆的，就合法，强拆程序不合法的，就是违法。

强制拆迁时，应当组织街道办事处(居委会)、被拆迁单位负责人到现场作为强制拆迁证明人，并由公证部门对被拆迁房屋及其房屋内物品进行证据保全。

【法律依据】

《国有土地上房屋征收与补偿条例》第二十四条，市、县级人民政府及其有关部门应当依法加强对建设活动的监督管理，对违反城乡规划进行建设的，依法予以处理。

市、县级人民政府作出房屋征收决定前，应当组织有关部门依法对征收范围内未经登记的建筑进行调查、认定和处理。对认定为合法建筑和未超过批准期限的临时建筑的，应当给予补偿；对认定为违法建筑和超过批准期限的临时建筑的，不予补偿。