докажите что функции являются нечетными f(x)=x^5cos3x

Рассмотрите таковой вариант:
1) Заместо "х" подставьте в правую часть "-х":
f(-x)=(-x)*cos(-3x)
Избавьтесь от минусов в чётных ступенях и четных тригонометрических функциях (такие есть в образце).
2) Вынесите все минусы вперёд:
f(-x)= -x*cos3x
3) если вышло, что f(-x)=-f(x), то перед нами нечётная функция.
В нашем случае так и есть: f(-x)= -(x*cos3x).