не очень трудно но пошевелить мозгами надобно.даны три точки данные трехмерными векторами,

Я представил себе в общем виде некую призму, в основании которой лежит квадрат. Где-то в случайной точке места находится начало системы координат и оттуда проведены три вектора к вершинам квадрата в основании призмы. В общем случае все эти три вектора разные, но их концы определяют плоскость, в которой и лежит 4-ая верхушка квадрата

В этом случае не может идти речи ни о каких равносторонних треугольниках.

половина квадрата это всегда треугольник...

Компланарны будут векторы, образующие стороны квадрата

если в нем диагональ провести

ну да

Поэтому я так считаю: координаты 3-х векторов задают уравнение плоскости, которое известно и просто записывается в матричном виде (когда определитель 3х3, составленный из разностей координат, равен нулю). А дальше, когда уравнение плоскости получено, из одной верхушки строим компланарные векторы в две иные. Если их модули одинаковы, то надобно найти диагональ, на которой лежит 4-ая точка, если нет, то диагональ определена вектором с большим модулем - это решает вопрос "кто есть ху".

спасибо

Или обусловьте угол между векторами в плоскости основания. Если прямой - у Вас рёбра (стороны), если пи/4, то ребро и диагональ. Но все одинаково позже модули разыскивать и сопоставлять.

Пожалуйста

Вывод на испытательной задаче
точка 1 x =  y =  z = -3 1 5
точка 2 x =  y =  z = -2 10 5
точка 3 x =  y =  z = 6 0 5
4-ая точка:   x = 7 y = 9 z = 5