解：$(1)$四边形$AFHE$是正方形，理由：
∵$Rt△ABE$绕点$A$按逆时针方向旋转$90°$得到$△ADF$
∴$∠EAF=90°，$$△ABE≌△ADF$
∴$∠AEB=∠AFD=90°，$$AE=AF，$$BE=DF$
∴$∠AFH=90°$
∴四边形$AFHE$是矩形
又∵$AE=AF$
∴四边形$AFHE$是正方形
$(2)$设$AE=x，$则易得$AE=EH=FH=AF=x，$$BE=x+7，$$BC=AB=13$
∴在$Rt△AEB，$$AB^2=AE^2+BE^2，$即$13^2=x^2+(x+7)^2$
解得$x=5($负值舍去)
∴$BE=x+7=12$
∴$DF=BE=12$
∴$DH=DF+FH=12+5=17$
