解:$(1)①$∵四边形$ABCD$是正方形,∴$BA=BC$,$∠ABP=∠CBP$
由旋转的性质,得$BA'=BA$,$BP'=BP$,$∠A'BP'=∠ABP$
∴$BA'=BC$,$∠A'BP'=∠CBP$
∴$∠A'BP'-∠A'BC=∠CBP-∠A'BC$,即$∠CBP'=∠A'BP$
∴$△BPA'≌△BP'C(\mathrm {SAS})$
$②$连接$PP'$
由题意及$(1)①$,得$BA'=BA=BC$,$P'A'=PA$,$BA=PA$,∴$BA'=P'A'$
∵$∠ABC=90°$,$∠ABA'=60°$,∴$∠A'BC=∠ABC-∠ABA'=30°$
∴$∠BA'C=∠BCA'=\frac {1}{2}(180°-∠A'BC)=75°$
∵$BP'=BP$,$∠P'BP=60°$,∴$△BP'P $是等边三角形,∴$∠BPP'=60°$,$BP=P'P$
∵$PA'=PA'$,∴$△BPA'≌△P'PA'(\mathrm {SSS})$,∴$∠BPA'=∠P'PA'$
∴$∠BPA'=\frac {1}{2}∠BPP'=30°$
∵$∠BPC=45°$,∴$∠A'PC=∠BPC-∠BPA'=15°$
∵$∠BCP=90°$,∴$∠A'CP=∠BCP -∠BCA'=15°$
∴$∠A'PC=∠A'CP$,∴$A'P=A'C$
由$(1)①$,得$△BPA'≌△BP'C$,∴$A'P=CP'$
∴$A'C=CP'$,∴$△A'P'C$是等腰三角形
$(2)①$如图所示
$②$由题意得点$A'$在线段$BD$上,$A'P'=AP$,$BA'=BA=BC=\sqrt {2}$,$∠BA'P'=∠BAP=90°$
过点$C$作$CE⊥BD$于点$E$,则$△BCE$是等腰直角三角形
∴$BE=CE=\frac {2}{2}BC=1$
显然$∠CA'P<∠BA'P'=90°$
∴当$△A'P'C$是直角三角形时,分类讨论如下:
若$∠A'P'C=90°$,则四边形$A'P'CE$是矩形
∴$AP=A'P'=CE=1$;
若$∠A'CP'=90°$,过点$C$作$CF⊥A'P'$于点$F$,则四边形$A'ECF $是矩形
∴$A'F=CE=1$,$CF=A'E=BA'-BE=\sqrt {2}-1$
设$AP=A'P'=x$,则$P'F=A'P'-A'F=x-1$
∵$A'F²+CF²=A'C²$,$P'F²+CF²=P'C²$,$A'C²+P'C²=A'P'²$
∴$A'F²+CF²+P'F²+CF²=A'P'²$
∴$1²+(\sqrt {2}-1)²+(x-1)²+(\sqrt {2}-1)²=x²$
解得$x=4-2\sqrt {2}$,∴$AP=4-2\sqrt {2}$
综上,$AP $的长为$1$或$4-2\sqrt {2}$