Окружность радиуса 5 проходит через вершины А и С треугольника АВС, пересекаетсторону АВ в ее

Если E - середина AB, то треугольники ABC и BEK сходственны, так как сумма углов EKC и BAC одинакова 180, то есть BK/BA = BE/BC, или (a/4)/c = (c/2)/a; a = c2; коэффициент пропорции треугольников равен 2/4; это просто получается из условия. НО.....

Представим, что у нас есть два луча из точки В, выходящих под неким произвольным (ну, пусть острым) углом. Тогда на гранях этого угла можно отложить ЧЕТЫРЕ ТОЧКИ - на одной E и A, на иной K и C, так, чтоб AB = 1, BE = 1/2; BK = 2/4; BC = 2. Из подобия треугольников BEK и ABC сразу следует, что через 4 точки ACKE можно провести окружность. У неё будет КАКОЙ-ТО радиус. Который можно вычислить, если известен угол ABC.

Если мы отыскали этот радиус R() (то есть - как функцию угла B), то обычным масштабированием сходу обретаем боковые стороны, а AC - по аксиоме косинусов (здесь вновь возникнет угол , как переменная). Таким образом, для решения задачки нужен угол - светло, что изменяя его, мы всегда будем получать различные R(). Функция R() не является константой, R значительно зависит от , то есть условие не полное.

то же касается и третьей стороны.

то, что R() не константа, светло желая бы поэтому, что при =0 R - безграничен.

Вот, кстати, а ПОЧЕМУ, если так отложить 4 точки чтоб AB = 1, BE = 1/2; BK = 2/4; BC = 2, то треугольники BEK и ABC сходственны? И почему из этого следует, что вокруг ACKE можно обрисовать окружность?

под "простым масштабированием" понимается вот что - в условии радиус задан = 5, потому истинное AB будет одинаково не 1, а R()/5; и так дальше.

напротив :(((( 5/R()... хорошо, понятно...

Monrо сейчас" доп.параметр угол АВС=45 "

Да хорошо, работка вышла симпатичная, пусть так валяется. Сама по для себя задача конкретно в таком виде оказалась ничего :)))

Пусть точка E - середина AB.
Вокруг четырехугольника AEKC можно обрисовать окружность.
Поэтому сумма углов EKC и BAC одинакова 180, что означает, что угол EKB = угол BAC, то есть треугольники ABC и BEK подобны (у их все углы одинаковы).
Из этого подобия следует BK/BA = BE/BC, либо, если положить
AB = c, AC = b, BC = a, то (a/4)/c = (c/2)/a; a = c2;
коэффициент подобия треугольников ABC и BEK равен 2/4;
это просто получается из условия.
Далее, пусть угол ABC = ; и еще надобно обозначить CE = m; (это медиана треугольника ABC к стороне AB).
Из условия известно, что радиус окружности, описанной вокруг треугольника AEC, равен 5.
Кроме того, известно, что площадь ACE одинакова половине площади ABC, так как CE - медиана.
Как уже было найдено, если AB = c, то AE = c/2; BC = c2;
откуда
Sabc = BA*BC*sin()/2 = (c^2)*2*sin()/2;
Seac = Sabc/2 = (c^2)*2*sin()/4;
По теореме косинусов для треугольника ABC
(AC)^2 = b^2 = c^2 + (c2)^2 - 2*c*(c2)*cos() = (c^2)*(3 - 22*cos());
по аксиоме косинусов для треугольника EBC
(EC)^2 = m^2 = (c/2)^2 + (c2)^2 - 2*(c/2)*(c2)*cos() = (c^2)*(9/4 - 2*cos()); Далее, используя знаменитую формулу (R = abc/4S) для радиуса описанной окружности для треугольника AEC, просто получить
5 = AE*AC*EC/(4*Saec) =
(c/2)*(c(3 - 22*cos()))*(c(9/4 - 2*cos())/((c^2)*2*sin());
либо
5 = с*((3 - 22*cos()))*((9/4 - 2*cos())/(22*sin());
Никаких дополнительных критерий в задаче нет, то есть угол ABC = ; может принимать любые значения из области определения приобретенной функции. 
Не считая того, подобие треугольников ABC и KBE при любом значении  ВСЁ РАВНО значит, что вокруг четырехугольника AEKC можно обрисовать окружность Правда, радиус этой окружности зависит от угла ABC = . Но из заключительного соотношения видно, что этот радиус пропорционален стороне AB = c. Что значит, что из условия задачки И НЕЛЬЗЯ найти, чему равен . 
Потому из этого соотношения следует два вывода
1) условие задачи Быстрее ВСЕГО не полное, поточнее - в задачке есть неопределенный параметр.
2) заключительное соотношение практически и есть решение поставленной задачи, определяющее величину стороны AB = с, и всех других сторон, само собой, как функцию неопределенного параметра .  Напомню, что
BC = с*2, а AC = c*(3 - 22*cos()). 
Частный случай, когда AC является поперечником, решается тривиально по тому же методу. 
В этом случае AEC - прямоугольный треугольник, а ABC - равнобедренный, то есть AC = BC = c2, а радиус окружности явно равен AC/2 = c2/2 = 5; откуда AB = c = 52; BC = AC = 10;
из полученной в задаче формулы этот случай выходит, если 22*cos() = 1; что просто проверить. То есть, когда cos() = 2/4; и, соответственно, sin() = 14/4;
Иной навязывающийся приватный случай - если угол ABC - прямой. В этом случае cos() = 0; sin() = 1;
Треугольник выходит сходственным треугольнику со гранями (1, 2, 3) при этом наименьший катет равен c = 56/9; и так далее. 
Отдельный вопрос - про область определения.
Так, к примеру, явно, что если cos() lt; 0, то решение есть всегда. То есть для тупых углов ABC решение есть всегда. К счастью, 3/22 gt; 1 и 9/42 gt; 1, потому решение существует при всех значениях  между 0 и 180 градусами.