Трехзначное число, записанное в шестнадцатеричной системе счисления, возрастает вдвое от

Вообще то, это задача чисто математическая.  Пусть есть трехзначное число abc.
По условию:

   abc
+ abc
--------
   bca
Понятно, что максимальным число будет, если сложение в 2-ух младших разрядах идет через перенос  -gt;  получим систему уравнений:
2c = a +16
2b +1 = c + 16
2a + 1 = b
равносильная ей система
2с = a + 16
c = 2b - 15
b = 2a + 1
подставляем третье во 2-ое, получаем 1-ые два уравнения
2с = a + 16
c = 4a - 13   из этих двух уравнений  -gt;   7a = 42  -gt;  a = 6  -gt; из третьего уравнения  b = 13
13 = D(16),   из первого уравнения  с = 22/2 = 11(10) = B(16)
-gt;  abc(16) = 6DB(16) = 1755(10),     DB6(16) = 3510(10)   -gt; 2abc = bca