解:$(1)$∵$|a+4|+|b-1|=0$
∴$a+4=0$,$b-1=0$
∴$a=-4$,$b=1$
∴$|AB|=5$
$(2)|PA|-|PB|=2$,即点$P $到点$A$的距离比点$P $
到点$B$的距离大$2$个单位长度
画数轴如下
若点$P $在点$A$的左侧,则点$P $到点$B$的距离大于
点$P $到点$A$的距离,不合题意;
若点$P $在点$A$和点$B$之间
由题知$|AB|=5$,$5-2=3$,$3÷2=1.5$
则点$P $与点$A$的距离为$3.5$个单位长度
与点$B$的距离为$1.5$个单位长度时,
符合题意,此时$x=-0.5$;
$ $若点$P $在点$B$右侧,$|PA|-|PB|=5$,不符合题意