解：设购买甲种鸡苗$x$只，那么购买乙种鸡苗$(2000-x)$只.
$(1)$根据题意列方程，得
$2x+3(2000-x)=4500$
解得，$x=1500$
则$2000-x=500$
答：甲、乙两种鸡苗分别购买了$1500$只、$500$只
$(2)$根据题意，得
$2x+3(2000-x)\leqslant 4700$
解得，$x\geqslant 1300$
答：应选购甲种鸡苗至少$1300$只
$(3)$设购买这批鸡苗的总费用为$y$元
根据题意，得
$y = 2x+3(2000-x) =-x+6000$
又由题意，得
$94\%x+99\%(2000-x)\geqslant 2000×96\%$
解得，$x\leqslant 1200$
当$x=1200$时，总费用$y$最少，此时$y=-1200+6000=4800$
乙种鸡苗为：$2000-1200= 800($只)
即购买甲种鸡苗$1200$只，乙种鸡苗$800$只时，这批鸡苗的成活率不低于$96\%，$
且买鸡苗的总费用$y$最少，最少总费用为$4800$元
