Остатки от деления на 5 натуральных чисел a и b, соответственно

А кончается или на 1 (при дроблении на 5 число обязано кончаться или на 0,или на 5),или на 6.
Соответственно квадрат этого числа также заканчивается или на 1(1^2=1),либо на 6(6^2=36).

b кончается на 3 либо на 8.
Квадраты: или на 9,или на 4.

Рассмотрим все варианты:
1)1+9=10.(остатка нету.)
2)1+4=5(тоже нету)
3)6+9=15(остатка тоже нету)
4)6+4=10(-)
Ответ: нету остатка (0)

а=5к+1 в=5н+3

а*а+в*в=25*(к*к+н*н)+10*(к+н)+(9+1)=5*(5*(к*к+н*н)+2к+2н+2)

Остаток равен 0.