解：(1) ①方法一：(a+b+c)²=[(a+b)+c]²=(a+b)²+2c(a+b)+c²=a²+b²+c²+2ab+2ac+2bc
方法二：(a+b+c)²=[a+(b+c)]²=a²+2a(b+c)+(b+c)²=a²+b²+c²+2ab+2ac+2bc
(3)①原式=(x+y)²-6(x+y)+9+11=(x+y-3)²+11
∵(x+y-3)²≥0
∴(x+y-3)²+11≥11
∴当x+y=3时，代数式x²+y²+2xy-6x-6y+20取最小值，且最小值为11
②原式=x²+y²+1-2xy-2x+2y+(x²-2x+1)+8=(x-y-1)²+(x-1)²+8
∵(x-y-1)²≥0，(x-1)²≥0
∴(x-y-1)²+(x-1)²+8≥8
∴当x-y-1=0且x-1=0，即x=1，y=0时，代数式2x²+y²=2xy-4x+2y+10取最小值，且
最小值为8
