$解:设矩形的边长为x\ \mathrm {cm}$
$①当5\ \mathrm {cm}为等腰三角形的腰时$
$x(9-x)=\frac 12×8×3$
$解得x_1=\frac {9+\sqrt{33}}2,x_2=\frac {9-\sqrt{33}}2$
$经检验,两根均符合题意$
$②当5\ \mathrm {cm}为等腰三角形的底时$
$x(9-x)=\frac 12×5×6$
$解得x_1=\frac {9+\sqrt{21}}2,x_2=\frac {9-\sqrt{21}}2$
$经检验,两根均符合题意$
$∴矩形的长为 \frac {9+\sqrt{33}}2、\frac {9-\sqrt{33}}2、\frac {9+\sqrt{21}}2、\frac {9-\sqrt{21}}2$