解：$(1)$设出售的竹篮$x$个，陶罐$y$个，
依题意有：
$\{\begin{array}{l}{5x+12y=61}\\{6x+10y=60}\end{array}，$
解得：$\{\begin{array}{l}{x=5}\\{y=3}\end{array}.$
故出售的竹篮$5$个，陶罐$3$个.
$(2)$设购买鲜花$a$束，依题意有：
$0 <61-5a\leqslant 20，$
解得$8.2\leqslant a <12.2，$
$∵a$为整数，
∴共有$4$种购买方案，方案一：购买鲜花$9$束；
方案二：购买鲜花$10$束；
方案三：购买鲜花$11$束；
方案四：购买鲜花$12$束.
