$解:(1)将A(2,-4)、B(-4,m)两点代入y=\frac{k}{x}中,\ $
$得k=2×(-4)=-4m,解得k=-8,m=2,\ $
$∴反比例函数的表达式为y=\frac{8}{x}.\ $
$把点A(2,-4)、B(-4,2)代入y=ax+b,$
$得\begin{cases}{2a+b=-4, }\ \\ { -4a+b=2, } \end{cases} 解得\begin{cases}{ a=-1, }\ \\ { b=-2, } \end{cases}\ $
$∴一次函数的表达式为y=-x-2.$
$(2)设AB与x轴交于点D,\ $
$连接CD,由题意可知,点A与点C关于原点对称,$
$∴C(-2,4).在y=-x-2中,当y=0时x=-2,$
$∴D(-2,0),∴CD⊥x轴于点D,$
$∴S_{△ABC} =S_{△ADC} +S_{△BCD} =\frac{1}{2}×4×(2+2)+\frac{1}{2}×4×(4-2)=12.$