Фонд библиотеки пополнился новыми книгами 6/18 всех книжек составила научная литература

В начале, найдем, какую часть от всех книжек приходится на интересную литературу. Для этого от единицы отнимем остальные категории книжек:
1 - 6/18 - 11/17 = (17 * 18 - 6 * 17 - 11 * 18)/(17 * 18) = (306 - 102 - 198)/306 = 6/306 = 1/51.
Следовательно, 400 книг интересной литературы - это 1/51 от всех книжек, тогда всего фонд пополнился:
400 * 51 = 20400 книгами
Из них:
6/18 * 20400 = 1/3 * 20400 = 6800 научной и
11/17 * 20400 = 13200 художественной литературы

Ответ: Всего в фонд поступил 20400 книг, из их 6800 научных и 13200 художественных