$解:(1)由题意,得\begin{cases}{17(a+0.8)+(20-17)(b+0.8)=66}\\{17(a+0.8)+(25-17)(b+0.8)=91}\end{cases}$
$解得\begin{cases}{a=2.2}\\{b=4.2}\end{cases}$
$故a的值为2.2,b的值为4.2.$
$(2),当用水30立方米时,需交水费$
$17×2.2+13×4.2+30×0.8=116(元)$
$因为150>116,所以5月份用水超过30立方米.$
$设5月份用水x立方米,由题意,得$
$17×2.2+13×4.2+(x-30)×6+0.8x=150,解得x=35$
$故他家5月份用水35立方米.$