$(1)$证明:∵$A,$$P,$$B,$$C$是圆上的四个点,$∠APC=∠CPB=60°$
∴$∠ABC=∠APC=60°,$$∠BAC=∠CPB=60°$
∴$∠ABC=∠BAC=60°$
∴$△ABC$是等边三角形
$(2)$解:∵$△ABC$是等边三角形
∴$∠ACB=60°,$$AC=AB=BC=2\sqrt {3}$
∵$∠PAC=90°$
∴$∠D=30°$
∴$DC=2AC=4\sqrt {3}$
∴$BD=2\sqrt {3}$
∵四边形$APBC$是圆内接四边形,$∠PAC=90°$
∴$∠PBC=90°$
∴$∠PBD=90°$
又∵$∠D=30°$
∴$PB=\frac 12PD$
设$PB=x,$则$PD=2x$
在$Rt△PBD$中,由勾股定理,得$ x^2+(2\sqrt {3})^2=(2x)^2$
解得$x=2($负值舍去)
∴$PD=4$