числитель обычной дроби на 5 меньше её знаменателя. Если числитель этой

ДАНО
a = b-5

Отыскать
a=? b=?
РЕШЕНИЕ
Приводим к общему знаменателю (и забываем о нём).
3*(a-3)*b = 3*a*(b+4) - b*(b+4) 
3*a*b - 9*b = 3*a*b + 12*a - b - 4*b
Упрощаем и  делаем подстановку:  a = b-5
b - 5*b - 12*(b-5) = 0
Упростим
b - 17*b + 60 = 0
Решаем квадратное уравнение.
Дискриминант - D = 49, 49 = 7 и обретаем корешки - b = 12,  b = 5
b = 12 и  a = 12-5 = 7
ОТВЕТ Дробь 7/12
Проверим второй корень уравнения: 
b = 5 и а = 0 либо дробью a/b = 0.

Получили на 1/3 меньше начального числа.
По условию задачки тоже практически подходит, но 0 -  не дробь - не подходит.