Около квадрата со стороной а описана окружность. В один из частей

а:25

Обозначим сторону квадрата, вписанного в сектор, за в.
На базе уравнения окружности составим уравнение точки, в которой правый верхний угол малого квадрата находится на окружности.
Радиус R окружности равен: R = a2/2 = R/2.

Приведя подобные, получим квадратное уравнение:

Здесь переменная в, а - постоянная величина.
Дискриминант Д= в-4ас = 16а-4*5*(-а) = 36а.
в = (-4а+(36а))/(2*5) = 2а/10 = а/5.
Искомая площадь S = b = a/25.