Решить систему уравнений Х+4у=3 х^2+2ху=-1

Выразим y через x:
y= 

Подставим в уравнение, где теснее есть x:
x + +1=0
x +  +1=0
Приводим все члены к знаменателю 2, избавляемся от знаменателя:
2x + 3x - x +2 =0
x +3x +2 =0
(x+2)(x+1)=0

Видим корешки, считаем к каждому корню у:

либо

x+4y=3 (1)
x^2+2xy=-1 (2)
Преобразуем уравнение (1) 
x=3-4y
Подставляем это во уравнение (2)
(3-4y)^2+2(3-4y)y=-1
Решаем уравнение (2)
9-24y+16y^2+6y-8y^2+1=0
8y^2-18y+10=0 -вышло квадратное уравнение
Сократим его на 2
4y^2-9y+5=0
Выищи дискриминант и ищем корешки
D=81-4*4*5=1

y1=-9+1/8=-1
y2=-9-1/8=-1,25
Подставляем в уравнение (1) получившиеся корни
x1=3-4*(-1)=7
x2=3-4*(-1,25)=8
Ответ: (7;-1)(8;-1,25)