В кубе ABCDA1B1C1D1 на ребре AA1 взята точка M такая, что

Введём трёхмерную систему координат с началом в точке В таким образом, что ось Х совпадает с ребром ВА, ось Y -- с ребром ВС, ось Z -- с ребром ВВ.

Длину ребра куба положим одинаковой 12 (12 делится нацело и на 3, и на 4), чтобы не только верхушки куба, но и точки M и N имели целочисленные координаты.

Определим координаты точек M, N, A и С:

M (12; 0; 8), N (0; 9; 0), A (12; 0; 0), С (0; 12; 12).

Определим координаты векторов MN и AС:

MN (-12; 9; -8), AС (-12; 12; 12).

cos = MNAС / MNAС = -12(-12)+912-812 / ((-12)+9+(-8))((-12)+12+12) = 1213 / 17123 = 13/173 = 133/51