В основании прямой треугольной призмы ABCA1B1C1 лежит равнобедренный( AB=BC ) треугольник

Пусть А - начало координат.
Ось X - AC
Ось Y - перпендикулярно Х в сторону В
Ось Z - AA1

Начнем с пункта б )
Координаты точек
М(3;0;0)
МВ=(АВ)^2-АМ^2)=55
К(3/2;55/2;3)
В(3;55;0)
А1(0;0;3)

Вектор КМ (3/2;-55/2;-3) длина (9+55+36)/2=5

Уравнение плоскости АА1ВВ1
ах+by+cz= 0 проходит через 0
Подставляем координаты точек
3с=0 с=0
3a+55b=0
Пусть а= 55/3 тогда b = -1
Уравнение
55x/3-y=0 длина нормали (55+9)/3=8/3
Синус искомого угла равен
(55/2+55/2)/5/(8/3)=355/40

Пункт а )
В общем случае координаты точек если
а-основание h- высота из В к АС,. Н -вышина призмы.

К(а/4;h/2;H)
M(a/2;0;0)
B(a/2;h;0)

KM(a/4;-h/2;-H)
KB(a/4;h/2;-H)
Как видно длины векторов одинаковы.