Почему мы пишем, что здесь 3 четверть, а значит -cosx :

в 4 четверти sina <0 --> sin(a+3П/2)=-sinx

ошиблась, надобно: sin(x+3П/2)=-cosx

знак определяется по заданной функции. Задан sin.

Формулы приведения поглядите)
Дело в том, что 3pi/2 + x вправду 4 четверть, но потому что вначале речь идет о SIN, а sin 4 четверти имеет знак МИНУС, то мы меняем функцию на обратную, но при этом оставляем ЗНАК прошлой функции. К слову функция меняется на противоположную, только если речь идет о 90 и 270 градусов
Формулы приведения прикрепил к ответу.