$解：(3)△AB'C的面积不变化.连接BB'.$
$因为B，B'两点关于直线1对称，$
$所以BB'⊥l.$
$因为l⊥AC，$
$所以BB'//AC，$
$所以S_{△AB'C}=S_{△ABC}= \frac {\sqrt{3}}{4} ×8²=16 \sqrt{3}$
$故△AB'C的面积不变，为16 \sqrt{3}$
$(4) 由折叠的性质，得PB'=PB=6，$
$所以点B在以点P为圆心，6为半径的圆上运动.$
$过点P作PH⊥AC于点H，延长HP交OP于点D，$
$连接AD，CD，则PD=6.$
$当点B'与点D重合时，△AB'C 的面积最大，且最大值即为△ACD的面积.$
$因为△ABC是边长为8的等边三角形，$
$所以∠A=60°，AB=AC=8，$
$所以AP=AB-PB=2，$
$所以 PH =AP×sin A= \sqrt{3} ，$
$所以DH=PD+PH=6+\sqrt{3} ，$
$所以S_{△ACD}= \frac {1}{2}× AC×DH=24+4\sqrt{3}$
$故△AB'C面积的最大值为24+4\sqrt{3} .$
