$解:(1)将A(m，6)代入y=x+8得6=m+8$
$解得m=-2$
$∴A(-2,6),同理可得点B的坐标为(-6,2)$
$将A(-2,6)代入y=\frac{k}{x}得k=xy=-12$
$∴反比例函数的表达式为y=-\frac{12}{x}$
$(2)作点A关于y轴的对称点A'(2,6)$
$连接A'B交y轴于点P,连接AP，如图①$
$此时 AP+BP 的值最小$
$∵ A'B =\sqrt{[2-(-6)]^{2}+(6-2)^{2}}=4\sqrt {5}$
$AP=A'P,∴AP+BP的最小值为4\sqrt {5}$
$(3))存在设M(a,\frac{-12}{a}),N(b,0)$
$①当点M在点B右侧时，过点B作BF⊥x轴于点F$
$过点M作MH⊥BF,交FB的延长线于点H,如图②$
$∵△MBN是以MN为底的等腰直角三角形$
$∴ BM=NB,∠MBN=90°,∴ ∠HBM+∠NBF=90°$
$∵ ∠HBM+∠HMB=90°,∠H=∠BFN,$
$∴∠NBF= ∠HMB$
$在△MHB 和△BFN 中$
$\begin{cases}{ ∠H=∠BFN }\ \\ { ∠BMH=∠NBF } \\{ BM=NB} \end{cases}$
$∴△MHB≌△BFN(AAS),∴HM=BF$
$∴a-(-6)=2-0,解得a=-4，∴M(-4,3)$
$②当点M在点B左侧时，如图③$
$同理可得△MHB≌△NFB(AAS),∴BH=BF$
$∴(-6)-a=2-0,解得a=-8,∴M(-8,\frac{3}{2})$
$综上，点M的坐标为(-4,3)或(-8,\frac{3}{2})\ $
