解: (1)由题意,得$4\triangle3 = 4^{2}-3^{2}=7。$
(2)由题意,得$(x + 2)\triangle5=(x + 2)^{2}-5^{2}=0,$即$(x + 2)^{2}=25。$两边直接开平方,得$x + 2=\pm5,$解得$x_1 = 3,x_2 = -7。$
(3)由题意,得$3\triangle(x - 8)=3^{2}-(x - 8)^{2}=9-(x - 8)^{2}。$解方程$9-(x - 8)^{2}=0,$得$x_1 = 11,x_2 = 5。$分类讨论如下:①当11是该直角三角形的斜边长时,第三边的长为$\sqrt{11^{2}-5^{2}} = 4\sqrt{6};$②当11是该直角三角形的直角边长时,第三边的长为$\sqrt{11^{2}+5^{2}}=\sqrt{146}。$综上所述,该直角三角形第三边的长为$4\sqrt{6}$或$\sqrt{146}。$