$解:(1)设直线AB对应的函数解析式为y=mx+b(m≠0)$
$将A(1,0),B(0,2)代入得\begin{cases}{ m+b=0 }\ \\ { b=2 } \end{cases}解得\begin{cases}{ m=-2 }\ \\ { b=2 } \end{cases}\ $
$∴直线AB对应的函数解析式为y=-2x+2$
$过点C作CD⊥x轴于点D$
$∵线段AB绕点A按顺时针方向旋转90°得到线段AC,∴易得△CAD≌△ABO$
$∴AD=BO=2,CD=AO=1,∴易得点C的坐标为(3,1)$
$∵点C在反比例函数y=\frac{k}{x}(k≠0,x>0)的图象上,∴k=3$
$∴反比例函数的解析式为y=\frac{3}{x}(x>0)$
$(2)由题意,可设经过点P且与直线AB平行的直线对应的函数解析式为y=-2x+h(h>0)$
$令-2x+h=\frac {3}{x},则2x^{2}-hx+3=0$
$当△=0时,点P到直线AB的距离x 最短,∴(-h)^{2}-4×2×3=0,解得h=2\sqrt{6}或h=-2\sqrt{6}(不合题意,舍去)$
$此时易求点P的坐标为(\frac{\sqrt{6}}{2},\sqrt{6})$