(x^2+x)^2-5(x^2+x)+6=0

Делаем подмену:
y=x^2+x
получим:
y^2-5y+6=0
D=25-24=1
y1=(5+1)/2=3
y2=(5-1)/2=2
оборотная замена:
x^2+x=2
x^2+x-2=0
D=1+8=9
x1=(-1+3)/2=1
x2=-4/2=-2
x^2+x=3
x^2+x-3=0
D=1+12=13
x3=(-1+sqrt(13))/2
x4=(-1-sqrt(13))/2
Ответ: x1=1; x2=-2; x3=(-1+sqrt(13))/2; x4=(-1-sqrt(13))/2