при каком значении параметра а система имеет безгранично много решений 3х+(а-1)*у=16х-5у=2

Чуть-чуть приглядевшись, можно заметить, что система состоит из линейных уравнений с двумя переменными.
Дальше вспоминаем: уравнение вида ax + by + c = 0 задаёт на координатной плоскости ПРЯМУЮ. Таким образом, у нас знамениты уравнения 2-ух прямых. Прямые могут или пересекаться, или быть параллельными, или совпадать.
Если прямые пересекаются, то система имеет единственное решение. Если прямые параллельны, то система не имеет решений совсем, так как нет точек скрещения прямых. Если же прямые совпадают, то, как несложно сообразить, система имеет нескончаемо много решений. Этот случай нас и интересует.
Чтобы прямые совпадали, нужно и достаточно, чтобы подходящие коэффициенты были пропорциональными.
Иначе разговаривая, если даны две прямые ax + by + c = 0 и a1x + b1y + c1 = 0, то они совпадают тогда, когда
a/a1 = b/b1 = c/c1
Запишем это условие для нашей системы.
3/6 = (a-1)/(-5) = 1/2
3/6 = 1/2 выполняется, означает, необходимо, чтобы (a-1)/(-5) = 1/2
Отсюда разыскиваем разыскиваемые значения параметра.
a-1 = -5/2
a = -1.5