$解:∵四边形ABCD是矩形$
$∴∠B=90°$
$∴AC=\sqrt{AB^2+BC^2}= \sqrt{3^2+4^2}=5$
$由(1)可知四边形EGFH是平行四边形,连接GH$
$∵G,H分别是矩形ABCD的边AB,DC的中点$
$∴AG=DH,AG//DH$
$∴四边形AGHD是平行四边形$
$∴GH=BC=4$
$∴当EF=GH=4时,四边形EGFH是矩形,分两种情况:$
$①如图①,AE=CF=t,则EF=5-2t=4, 解得t=0.5$
$②如图②,AE=CF=t,EF=5-2(5-t)=4, 解得t=4.5$
$综上所述,当t的值为0.5或4.5时,四边形EGFH为矩形。$