解：(1)原方程可化为x(3x-1)=0
∴x=0或3x-1=0
解方程3x-1=0，得x=$\frac{1}{3}$
∴原方程的解为x=0或x=$\frac{1}{3}$
(2) 原方程可变形为(x+3+2x)(x+3-2x)=0，即3(x+1)(-x+3)=0
∴x+1=0或-x+3=0
解方程x+1=0，得x=-1；
解方程-x+3=0，得x=3
∴原方程的解为x=-1或x=3
(3)代数式y²-8y+16-x²的值小于0
理由如下：∵△ABC的三边长分别为4，x，y
∴x+4>y，x+y>4
∴y-4-x<0，y-4+x>0
∴y²-8y+16-x²=(y-4)²-x²=(y-4+x)(y-4-x)<0
∴代数式y²=8y+16-x²的值小于0
