解:$ (1)$设每轮感染中平均$1$台电脑会感染$x$台电脑
由题意,得$ 1+x+x(1+x)= 16$
整理,得$(1+x)^2= 16$
$1+x=±4$
$x_1=3,$$ x_2=-5($不合题意,舍去)
∴每轮感染中平均$1$台电脑会感染$ 3$台电脑
$(2)$机房内的电脑共有$100+1=101($台)
$n$轮感染后,有$(1+3)^n=4^n($台)电脑被感染
当$n=3$时,$4^3=64$
当$n=4$时,$4^4=256$
∵$64<101<256$
∴$4$轮后感染后机房内的所有电脑将都被感染