解:$(1) $原式$= 5a^2-(3a-2a+3 + 4a^2)= 5a^2-(a +3+ 4a^2)$
$= 5a^2-a-3-4a^2=a^2-a- 3$
当$a=-2$时,原式$= (-2)^2-(-2)-3= 4+2-3= 3$
$(2)$∵$a^2-b^2=a^2-ab+ab-b^2= (a^2-ab)+(ab-b^2)$
∴把$a^2-ab= 8,$$ab-b^2=-4$代入,
得$a^2-b^2= (a^2-ab)+(ab-b^2)=8+(-4)=4$
∵$a^2- 2ab+b^2=a^2-ab-ab+b^2= (a^2-ab)-(ab-b^2)$
∴把$a^2-ab= 8,$$ab-b^2=-4$代入,
得$a^2-2ab+b^2 = (a^2-ab)- (ab-b^2)=8-(-4) - 8+4= 12$