$(1)$证明：由旋转的性质，得$CP=CQ$，$∠PCQ=60°$，∴$△PCQ $是等边三角形
解：$(2)$存在，∵$CE$平分$∠BCD$，且$∠BCD= 120°$
∴$∠BCE=∠DCE=\frac {1}{2}∠BCD=60°$
∵四边形$ABCD$是平行四边形，∴$AB//CD$
∴$∠BEC=∠DCE=60°$，$∠ABC+∠BCD=180°$，即$∠ABC=60°$
∴$△BCE$是等边三角形
∴$∠ABC=60°$，$BE=BC=CE$
又$BC=2\ \mathrm {cm}$，∴$BE=2\ \mathrm {cm}$
由$(1)$，得$△PCQ $是等边三角形
∴$CP=PQ=CQ$，$∠PCQ=60°$
易得$∠PCE=∠QCB$，∴$△PCE≌△QCB(\mathrm {SAS})$
∴$EP=BQ$
∴$C_{△PBQ}=PB+BQ+PQ=PB+EP+CP=BE+CP=2+CP$
又点$P $在线段$EB$上运动
∴当$CP⊥AB$时，$CP $的长最小，即$△PBQ $的周长最小，此时$∠CPB=90°$
∴$∠BCP=90°-∠ABC=30°$，∴$BP=\frac {1}{2}BC=1\ \mathrm {cm}$
在$Rt△BPC $中，由勾股定理，得$ CP =\sqrt {BC²-BP²}= \sqrt {3}\mathrm {cm}$
∴$△PBQ $的周长的最小值为$(2+ \sqrt {3})\mathrm {cm}$
$(3)$存在
同$(1)$，得$△PCQ $是等边三角形
∴$∠CPQ=∠PQC=60°$，$CP=CQ=PQ$
当$t=5$时，$P$，$B$两点重合，不符合题意；
当点$P $在线段$AE$上，即$0≤t<3$时，同$(2)$，得$△PCE≌△QCB$
∴$∠CPE=∠CQB$
∵$∠CPQ=∠CPB + ∠BPQ=60°$，∴$∠BPQ+∠CQB=60°$
又$∠BPQ+∠PQC+∠CQB+∠PBQ=180°$，∴$∠PBQ=60°$
又$∠BPQ<∠CPQ=60°$，∴$∠PQB=90°$，即$∠BPQ+∠PBQ=90°$
∴$∠BPQ=30°$，即$∠BPC=30°$
由$(2)$，得$△BCE$是等边三角形，$BE=2\ \mathrm {cm}$，∴$∠BEC=60°$，$CE=2\ \mathrm {cm}$
∴$∠PCE=∠BEC-∠BPC=30°$，即$∠PCE=∠EPC$
∴$PE=CE=2\ \mathrm {cm}$，∴$AP=AB-BE- PE =1\ \mathrm {cm} $
又$AP= t\mathrm {cm}$，∴$t=1$
当点$P $在线段$BE$上，即$3≤t<5$时，同理，得$∠CBQ=∠CEB=60°$
∵$∠ABC=60°$，∴$∠PBQ=∠ABC +∠CBQ=120°$
∴$△PBQ $是钝角三角形，不符合题意；
当点$P $在射线$BM$上，即$t>5$时，同理，得$∠CBQ=∠CEB=60°$
∴$∠PBQ=180°-∠ABC-∠CBQ=60°$
∵$∠BQP<∠CQP=60°$，∴此时只有$∠BPQ=90°$这一种情形
∵$∠CPQ=60°$，∴$∠CPB=∠BPQ -∠CPQ=30°$
∵$∠ABC=∠BCP+∠CPB$，∴$∠BCP=30°$，即$∠BCP=∠CPB$
∴$BP=BC=2\ \mathrm {cm}$，∴$AP=AB+BP=7\ \mathrm {cm} $
∵$AP= t\mathrm {cm}$，∴$t=7$，符合题意.
综上，当$t $的值为$1$或$7$时，以$P$，$B$，$Q $三点为顶点的三角形是直角三角形
