В кубе ABCDA1B1C1D1 точка М лежит на ребре АА1, при этом АМ:МА1=3:1,

Пусть А - начало координат.
ось X - AB
ось Y - AD
ось Z - AA1

координаты точек
М(0;0;0.75)
N(1;0.5;0)
устремляющий вектор МN (1;0.5;-0.75)
длина (1+1/4+9/16) = 29/4

B1(1;0;1)
D(0;1;0)
устремляющий вектор B1D(-1;1;-1) его длина (1+1+1)=3

косинус угла меж MN и B1D равен

-1+0.5+0.75  / 3 / (29/4) = 1/( 87)