解:$(2)$如图$①$,连接$MN$,将线段$MN$绕点$N$顺时针旋转$90°$得到线段$NM'$
过点$M$作$MA⊥x$轴于点$A$,过点$M'$作$M'B⊥x $轴于点$B$
∴$∠MAN= ∠NBM'=90°$,∴$∠AMN+∠ANM=90°$
∵点$M$的坐标为$(-2$,$4)$,点$N$的坐标为$(1$,$0)$
∴$OA=2$,$AM=4$,$ON=1$,∴$AN=OA+ON=3$
由旋转的性质,得$NM'=MN$,$∠MNM'=90°$
∴$∠BNM'+∠ANM=180°-∠MNM'=90°$
∴$∠BNM'=∠AMN$,∴$△NBM'≌△MAN(\mathrm {AAS})$
∴$BM'=AN=3$,$BN=AM=4$
∴$OB=ON+BN=5$
∴点$M'$的坐标为$(5$,$3)$
把$M'(5$,$3)$代入$ y=\frac {k}{x}$中,得$3=\frac {k}{5}$
解得$k=15$,则$k$的值为$15$
$(3)$如图$②$,连接$AB$,将线段$AB$绕点$A$顺时针旋转$90°$得到线段$CA$,
过点$A$作$x$轴的平行线$DE$,过点$B$作$BE⊥DE$于点$E$,过点$C$作$CD⊥DE$于点$D$
∴$∠AEB=∠CDA=90°$,∴$∠ABE+∠BAE=90°$
∵点$A(1$,$3)$在反比例函数$y=\frac {k'}{x}$的图像上,∴$k'=3$
∴该反比例函数的表达式为$y=\frac {3}{x}$
设点$B$的坐标为$(m$,$\frac {3}{m})(m>1)$,则$BE=3-\frac {3}{m}$,$AE=m-1$
由旋转的性质,得$CA=AB$,$∠BAC=90°$
∴$∠CAD+∠BAE=180°-∠BAC=90°$
∴$∠CAD=∠ABE$,∴$△ACD≌△BAE(\mathrm {AAS})$
∴$AD=BE=3-\frac {3}{m}$,$CD=AE=m-1$
∴点$C$的坐标为$(1-(3-\frac {3}{m})$,$3-(m-1))$,即$(\frac {3}{m}-2$,$4-m)$
把$C(\frac {3}{m}-2$,$4-m)$代入$y=\frac {3}{x}$中
得$4-m=\frac 3{\frac 3{m}-2}$,即$(m-6)(m-1)=0$
又$m≠1$,∴$m=6$
∴点$B$的坐标为$(6$,$\frac {1}{2})$