Петя раставил книжки поровну на 12 пололках, а позже переставил

На 12 полках было 12 * А книжек.
На 8 полках было 8 * В книжек.
Причём 12 * А = 8 * В.
Тогда, А = 8 * В/12 = 2/3 * В.

По условию
12 * А gt; 100,
12 * А lt; 120.
8,3 lt; A lt; 11,6.

8 * В gt; 100,
8 * В lt; 120.
12,5 lt; В lt; 17,5.

Так как А = 2/3 * В, то В должно делиться на 3 без остатка и обязано быть целым, так как книжка это целая неразделимая вещь.
Значит, В одинаково или 15, либо 18.
Если В = 15, то А = 2/3 * 15 = 10 книжек, удовлетворяет условию 8,3 lt; A lt; 11,6.
Если В = 18, то А = 2/3 * 18 = 12 книжек, не удовлетворяют условию A lt; 11,6.

Означает, на полках было 12 * А = 12 * 10 = 120 книжек.

120 книжек

Тебе необходимо отыскать число, которое делится и на 12, и на 8. Таким число является 120!