$(1)$证明:由题意得$△ADP≌△ABP'$,$PA=1$,$PB= \sqrt {8}$,$PD= \sqrt {10}$,
$∠BAD=90°$,$AB=AD$
∴$P'A =PA = 1$,$P'B =PD= \sqrt {10}$,$∠P'AB=∠PAD$,
$∠PAD+∠PAB=90°$,即$∠P'AB+∠PAB=90°$
∴$∠P'AP=90°$,即$△APP'$是等腰直角三角形
$(2)$解:$△BPP'$是直角三角形
∵由$(1)$得$ P'A= PA=1$,$∠P'AP=90°$,$△APP'$是等腰直角三角形,
$PB = \sqrt {8}$,$P'B = PD = \sqrt {10}$
∴$∠APP'=45°$
在$Rt△APP'$中,由勾股定理,得$P'P²=P'A²+PA²=2$
∴$P'P²+PB²=10=P'B²$,即$∠P'PB=90° $
∴$△BPP '$是直角三角形
∵又$∠APP'+∠P'PB+∠BPQ=180°$
∴$∠BPQ = 180° - ∠APP' -∠P'PB=45°$
$(3)$过点$B$作$BE⊥AQ $于点$E$,则$∠BPQ+ ∠PBE=90°$
由$(1)(2)$,得$PA=1$,$PB= \sqrt {8}$,$∠BPQ=45°$
∴$∠PBE=90°-∠BPQ=45°$,即$∠PBE=∠BPQ$
∴$PE=BE$
在$Rt△PBE$中,由勾股定理,得$ PE²+BE²=PB²$
∴$2BE²=8$,即$BE=2($负值已舍去$)$
∴$PE=2$,即$AE=PA+PE=3$
∵在$Rt△ABE $中,由勾股定理,得$ AB=\sqrt {AE²+BE²}= \sqrt {13}$
则正方形$ABCD$的边$AB$的长为$ \sqrt {13}$