найти наибольшее и меньшее значение функции F ( x ) =

Обретаем
 F(x)=12x-3x
Приравниваем
F(x)=0
12x-3x=0
3x(4-x)=0
x=0    либо    х=4
Обе точки принадлежат обозначенному отрезку.
Располагаем точки отрезка на числовой прямой и находим знаки производной на каждом отрезке:
       -                  +                -
[-1]------(0)---------------(4)------[5]
           min                  max
F(0)=60-0=0 -  меньшее значение функции F(x) на [-1;5]
F(4)=64-4 =32  -  наибольшее значение функции F(x) на [-1;5]