$(1)$解：$AE=CF $且$AE⊥CF，$ 理由：
∵四边形$ABCD$是正方形
∴$AD=DC，$$∠ADC=90°$
∵$∠EDF=90°$
∴$∠ADC=∠EDF$
∴$∠ADE=∠CDF$
在$∆ADE$和$∆CDF $中
$\begin {cases}{DA=DC}\\{∠ADE=∠CDF}\\{DE=DF}\end {cases}$
∴$∆ADE≌∆CDF(S AS)$
∴$AE=CF，$$∠DAE=∠DCF$
如图，延长$AE$与$CF，$$CD$分别交于点$G、$$I$
∴$∠AIC=∠ADI+∠DAE=∠CGI+∠DCF$
∴$∠CGI=∠ADI=90°，$即$AE⊥CF$
∴$AE=CF，$$AE⊥CF$
$(2)$证明：由$(1)$知$AE⊥CF$
又∵$BM⊥AG，$$BN⊥CF$
∴$∠AGN=∠BMG=∠BNG=90°$
∴四边形$BMGN$是矩形
∴$∠MBN=90°$
∵四边形$ABCD$是正方形
∴$AB=BC，$$∠ABC=∠MBN=90°$
∴$∠ABM=∠CBN$
∵$∠AMB=∠CNB=90°$
∴$∆AMB≌∆CNB(\mathrm {AAS})$
∴$MB=NB$
∴矩形$BMGN$是正方形
