дано a=2i -3j +k, b =-3i +j +2k. вычислить (a+2b, 2a-b)

По правилам векторной алгебры
найдем вектор a+2b
a+2b=(2i-3j+k)+2(-3i+j+2k)=2i-3j+k-6i+2j+4k=-4i-j+5k
и вектор 2a-b
2a-b=2(2i-3j+k)-(-3i+j+2k)=4i-6j+2k+3i-j-2k=7i-7j+0k
Найдем скалярное творение векторов a+2b  и  2a-b, беря во внимание, что
скалярные творенья единичных векторов
(i,i)=(j,j)=(k,k)=1
(i,j)=(i,k)=(j,k)=0 -  векторы i, j, k  попарно ортогональны.

(a+2b, 2a-b)=(-4i-j+5k, 7i-7j+0k)=-28 (i,i)-7(j,i)+35(k,i)+28(i,j)+7(j,j)-35(k,j)=
-28+28=0
Векторы
a+2b  и 2a-b  ортогональны, так как их скалярное творение одинаково 0