На отрезке AC отмечена точка B. На отрезках AB, BC и

Данный чертёж поместим в прямоугольную систему координат точкой А в начало, АС - по оси Ох.
Координаты центра окружности обозначим (х; у), радиус - R.
Тогда условие касания данной окружности к начальным полуокружностям можно записать в виде системы из трёх уравнений:
(x-2)^2+y^2=(2+R)^2, (5-x)^2+y^2=(1+R)^2, (3-R)^2=(x-3)^2+y^2.
Решая эту систему, получаем результат:
х = (30/7), у = (12/7) и R = (6/7)  0,857143.