$(1)$证明:∵$AE$平分$∠CAB$,∴$∠CAE=∠BAE$
∵$∠ACB=90°$,$CD⊥AB$
∴$∠CAE+∠CEA=∠BAE+∠AGD=90°$
∴$∠CEA=∠AGD$
又∵$∠CGE=∠AGD$
∴$∠CEA=∠CGE$,∴$CG=CE$
$(2)$解:四边形$CGFE$是菱形,理由如下:
∵$GF//BC$,∴$∠CEG=∠EGF$
由$(1)$知$∠CEA=∠CGE$
∴$∠CGE=∠EGF$,∴$∠AGC=∠AGF$
又∵$AG=AG$,$∠CAE=∠BAE$
∴$△AGC≌△AGF(\mathrm {ASA})$,∴$CG=FG$
由$(1)$知$CG=CE$,∴$CE=FG$
又∵$GF//BC$,∴$CE//FG$
∴四边形$CGFE$是平行四边形$ $
又∵$CG=CE$,∴四边形$CGFE$是菱形
$(3)$解:在$Rt△ABC$中,$∠ACB=90°$,$AC=3$,$BC=4$
∴$AB=\sqrt {AC²+BC²}=5$
由$(2)$知$△AGC≌△AGF$
∴$AF=AC=3$,∴$BF=AB-AF=2$
∵四边形$CGFE$是菱形,∴$EF//CG$
∵$CD⊥AB$,∴$EF⊥AB$
$ $设$CE=EF=CG=GF=x$,则$BE=BC-CE=4-x$
$ $在$Rt△EFB$中,$EF^2+BF^2=BE^2$
即$x^2+2^2=(4-x)^2$,解得$x=\frac {3}{2}$
∴$CG=\frac {3}{2}$
∵$S_{△ABC}=\frac {1}{2}AC · BC=\frac {1}{2}AB · CD$
∴$CD=\frac {AC · BC}{AB}=\frac {3×4}{5}=\frac {12}{5}$
∴$GD=CD-CG=\frac {12}{5}-\frac {3}{2}=\frac {9}{10}$