解:$(2)$设第一次购买$x$千克,则第二次购买$(70-x)$千克
$①$若第一次购买不超过$20$千克,则第二次购买了$40$千克以上
由题意得$5x+3(70-x)=236$,解得$x=13$
$70-13=57($千克$)$
∴第二次购买了$57$千克
$②$若第一次购买$20$千克以上但不超过$40$千克,第二次购买也为$20$千克以上但不超过$40$千克
由题意得$4x+4(70-x)=236$,方程无解
$③$若第一次购买$20$千克以上但不超过$40$千克,第二次购买$40$千克以上
由题意得$4x+3(70-x)=236$,解得$x=26$
$70-26=44($千克$)$
∴第二次购买了$44$千克
答:第一次购买$13$千克,第二次购买$57$千克或第一次购买$26$千克,第二次购买$44$千克$.$