x+y=3, x^2+2xy+2y^2=18

Из первого уравнения получаем, что у = 3 - х.

Подставим это значение у во 2-ое уравнение системы и получим:

х + 2 * х * (3 - х) + 2 * (3 - х) = 18,

х + 6 * х - 2 * х + 2 * (9 - 6 * х + х) - 18 = 0,

6 * х - х + 18 - 12 * х + 2 * х - 18 = 0,

х - 6 * х = 0.

х * (х - 6) = 0.

Как знаменито, творенье 2-ух множителей одинаково 0, если желая бы один из их равен 0. Получаем:

х = 0 либо х - 6 = 0, то есть х = 6.

Тогда значения 2-ой переменной будут одинаковы:

у = 3 - 0 = 3 и у = 3 - 6 = -3.

Ответ: (0; 3) и (6; -3).