Необходимо доскональное решение. Желательно на листочке от руки.

Касательно первого задания, я не люблю решать сходственные системы способом их сведения к дифф. уравнению более высочайшего порядка... Я предпочитаю способ собственных значений и собственных векторов матрицы системы... Тогда

- матрица системы

Найдем собственные значения:

Т.е. это пара комплексно сопряженных чисел, довольно отыскать собственный вектор отвечающий одному из них, к образцу тому что с плюсом:

- наш СВ

Далее, общее решение начальной системы записывается в виде

Откуда

Что и будет ответом (если я не ошибся в расчетах)

Во втором задании удобно нарисовать график всех этих функций (прикр. файлы). Из него видно, что на отрезке от 0 до 4 по оси x подходящая область ограничена снизу кривой , сверху прямой  Тогда начальный интеграл запишется как

где 

(из-за кривобокости Latex я не сумел вписать их в двойной интеграл впрямую)

Решение во вложении.