(1+1/x)^2-5(2+1/x)+11=0

Раскрывая скобки получаем уравнение:

1 + 2/x + 1/x^2 - 10 - 5/x + 11 = 0.

После приведения сходственных слагаемых:

2 - 3/x + 1/x2 = 0.

Умножаем уравнение на x^2:

2x^2 - 3x + 1 = 0;

x12 = (3 +- (9 - 4 * 2 * 1)) / 2 * 2 = (3 +- 1) / 4;

x1 = (3 + 1) / 4 = 1; x2 = (3 - 1) / 4 = 1/2.

Ответ: x принадлежит 1/2; 1.