Найдите скалярное произведение векторов n(-1; 3; -2), и m (0; -1;

Скалярное произведение векторов- это произведение длин этих векторов на косинус угла меж ними.
Вычислим косинус угла
СоsC = (-1* 0 + 3*(-1) + (-2)*5) / [(-1) + 3 + (-2)] * [0 +(-1) + 5 =
= - 13 / 14 *26
 a * b = IaI * IbI * CosC
IaI = (-1) + 3 + (-2) = 14
IbI = 0 + (-1) + 5 =26
 a * b = 14 * 26 * (-13 / 14 * 26) = - 13

Скалярное творение векторов одинаково сумме творений подходящих координат.
(-1)*0+3*(-1)+(-2)*5=0-3-10= -13
ответ б).