$解:(1)如图,过点C作CE⊥AB,垂足为E.$
$∵AC=BC,AB=8$
$∴AE=BE=4$
$在Rt△BCE中,BC=5,BE=4$
$∴CE=\sqrt{BC^2-BE^2}=\sqrt{5^2-4^2}=3$
$∵OA=8$
$∴易得点C的坐标为(5,4)$
$∵函数y=\frac{k}{x}的图像经过点C,$
$∴k=5×4=20$
$(2)设点A的坐标为(m,0),∵BD=BC=5,AB=8$
$∴AD=3$
$∴D、C两点的坐标分别为(m,3),(m-3,4)$
$∵点C、D都在函数y=\frac{k}{x}的图像上$
$∴3m=4(m-3)$
$∴m=12$
$∴点C的坐标为(9,4)$
$∴OC=\sqrt{9^2+4^2}=\sqrt{97}$