X-3=10/x отыскать меньший корень

х -3 = 10 / x;

В знаменателе нам мешает х, чтоб избавиться от него умножим правую и левую часть уравнения на х, получаем:
х^2 - 3 * x = 10;
x^2 - 3x = 10;
Переносим 10 в левую сторону:
x^2 -3x - 10 = 0;
Это стандартное квадратное уравнение, которое можно решить через дискриминант, но мы имеем особенный случай, когда можно использовать аксиому Виета. Сумма корней с отрицательным знаком - это коэффициент около х (-3),  а если корешки умножить - получаем -10. 
К уравнению подходят корни 5 и -2. 
-1 * (5 -2 ) = -3;
5 * (-2) = - 10;
Корешки уравнения: 5, -2;