В прямоугольном треугольнике точка касания вписанной окружности разделяет гипотенузу на отрезки

может, надо отыскать радиус описанной окружности?

неа, вписанной(

По т. Пифагора квадрат гипотенузы = сумме квадратов катетов.
(а+b) = (a + x) + ( b +x)
a +2ab + b = a +2ax + x + b + 2bx + x

Гляди чертёж в прибавленьи
2ax + x  2bx + x = 2ab
2x + 2(a+b)*x = 2ab
x + (a+b)*x = ab
x - (a+b)*x - ab = 0
D = b - 4ac = (a +b) + 4ab = a + 2ab +b +4ab = a +6ab + b
x= (a + b + (a +6ab + b)  ) /2 = R вписанной окружности.
х = (a + b - (a +6ab + b)  ) /2 Это число отрицательное, означает, к условию задачки не подходит.