Точка Q - центр окружности, дотрагивающеюся стороны BC и продолжении сторон

А). Цитата: "Существование и единственность вневписанной
окружности обоснованы тем, что биссектрисы двух наружных углов
треугольника и биссектриса внутреннего угла, не смежного с этими
двумя, пересекаются в одной точке, которая и является центром
такой окружности".
В треугольнике АВС lt;ABC+lt;BCA=180-lt;A.
lt;ABC=180-lt;CBP,  lt;BCA=180-BCK - как пары соответственно смежных
углов.
Окружность (Q;R) - вневписанная окружность треугольника АВС по
определению (из условия). Как следует, BQ и СQ - биссектрисы углов lt;CBP и lt;BCK соответственно.
Тогда lt;BQC=180-(1/2)*(CBP+BCK)=180-(1/2)*(360-lt;ABC-lt;BCA). Или
lt;BQC=(1/2)*(lt;ABC+lt;BCA).
Но lt;BQC - вписанный угол, опирающийся на дугу ВС, а
lt;BOC- центральный угол, опирающийся на ту же дугу.
lt;BOC=2*lt;BQC = lt;ABC+lt;BCA = 180-lt;A.
Тогда в четырехугольнике АВОС сумма обратных углов
lt;А+lt;BOC=lt;A+180-lt;A = 180. Значит около этого четырехугольника
можно обрисовать окружность и при том только одну.
Следовательно, окружности, описанные около треугольника АВС и
четырехугольника АВОС - одна и та же окружность и точка О лежит
на этой окружности, что и требовалось обосновать.

б). Пусть R/r=4/3.  r=(3/4)*R.
lt;А+lt;BOC= 180 (подтверждено выше).
CosA = -Cos(180-A) = -Cos(BOC).
ВС - общая хорда пересекающихся окружностей.
По аксиоме косинусов из треугольника ОВС:
BC=2R - 2RCos(BOC)=2R+ 2RCosA=2R(1+CosA) . (1)
Bз треугольника AВС:
lt;BJC - центральный угол, опирающийся на ту же дугу, что и lt;BAC.
lt;BJC=2lt;A.
BC=2r - 2rCos(BJC)=2r(1-Cos2A) . (2)
Приравняем (1) и (2):
2R(1+CosA)=2r(1-Cos2A)  или
2R(1+CosA)=2(9/16)R(1-Cos2A)  либо
(1+CosA)=(9/16)(1-Cos2A).
По формуле приведения Cos2A= 2CosA-1, тогда
1+CosA=(9/16)(1-2CosA+1) =gt; 1+CosA=(9/8)(1-CosA).
Пусть CosA= Х, тогда:
8+8Х=9-9Х  либо
9Х+8Х-1=0
Х1=(-4+(16+9))/9 = 1/9.
Х2=-1 - не удовлетворяет условию, так как lt;A gt; 0.
Ответ: CosA=1/9.