Сколькими методами можно расставить 5 книжек по алгебре 3 книжки по

Пусть а = книжки по Алгебре
Пусть г = книжки по Геометрии
Пусть ф = книжки по физике.

Возможны следующие варианты:

ааааагггфф
аааааффггг
гггааааафф
гггффааааа
ффаааааггг
ффгггааааа

Итого : 6 вариантов.

Если необходимо решение и обоснование, то необходимо прибегнуть к факториалу, однако это не школьный курс.
Решение будет такое:
Всего 3 предметов, композиций будет 3!
3! = 1*2*3=6

Ответ: 6