В кассе магазина было 200 десятирублёвых и пятидесятирублёвых банкнот, всего на

Пусть было х шт. десятирублевых купюр, тогда пятидесятирублевых было (200-х) шт.
десятирублевых купюр на сумму 10х руб, а пятидесятирублевых на сумму 50(200-х) руб. Т.к. всего средств было 8400 руб, составим ур-е:
10х+50(200-х)=8400
10х+10000-50х=8400
-40х=8400-10000
-40х=-1600
х=40
десятирублевых купюр было 40 шт, а пятидесятирублевых 200-40=160 шт.