При каких значениях параметра b система уравнений имеет единственное

навскидку, при b=1/корень(5) и при b=-1/корень(5)

всё правильно. Не ошибся!

График первой функции - окружность с центром в начале координат и радиусом b. График 2-ой функции - ровная.
Система имеет единственное решение тогда, когда графики имеют только одну точку скрещения.

Графики будут иметь только одну общую точку, если заключительное уравнение имеет одно решение, т.е. D=0.

Решение в файле.
Решение в файле.
Решение в файле.