У мальчика 18 монет по 2 руб и по 5 руб

17 монет по 5 р. и одно монета 2 рубля

17 монет по 5 руб и 1 монета на 2 руб

Пусть у мальчика х монет по 2 рубля и  у монет по 5 рублей. По условию      х + у = 18.   2-ое уравнение    2х + 5у = 87. Решим эту систему уравнений : х = 18 - у, подставим во 2-ое : 
  2 ( 18 - у ) + 5у = 87 
  36 - 2у + 5у = 87
3у = 87 - 36
3у = 51 
у = 17
х = 18 - 17 = 1
Ответ : у мальчика была 1 монета по 2 рубля и 17 монет по 5 рублей.