解：$(1)$四边形$OCDE$是菱形，理由如下：
∵$CD//OE$， ∴$∠FEO=∠FCD$
∵$CE$是线段$OD$的垂直平分线
∴$FD=FO$，$ED=OE$，$CD=CO$
∴$∠DCO=∠FCO$，∴$∠FEO=∠FCO$
∴$OE=OC$，∴$ $四边形$OCDE$是菱形
$(2)$∵四边形$ABCD$为矩形
∴$∠BCD=∠CDA=90°$，$DO=CO$
∵$CE$是线段$OD$的垂直平分线
∴$CD=CO$，$∠DFC=90°$
∴$CD=CO=DO$， ∴$△ODC$为等边三角形
∴$DO=CD=4$，$∠ODC=60°$， ∴$DF=\frac {1}{2}DO=2$
$ $在$Rt△CDF_{中}$，$CD=4$，$DF=2$，$ CF=\sqrt {CD^2-DF^2}=2\sqrt 3$
$ $由$(1)$可知四边形$OCDE$是菱形， ∴$EF=CF=2\sqrt {3} $
∵$∠GDF=∠CDA-∠ODC=30°$，∴$DG=2GF$
∵$GF²+DF²=DG²$，∴$GF=\frac {2\sqrt {3}}{3}$
∴$EG=EF-GF=2\sqrt {3}-\frac {2\sqrt {3}}{3}=\frac {4\sqrt {3}}{3}$
