В треугольнике ABC угол C равен 90 градусов, AB = 5,

http://bit.ly/2ntuFYb
Из графического представления задачки получаем, что AB - гипотенуза, AC и BC - катеты.
Так как ctg B = b / a = BC / AC, то необходимо отыскать сторону BC.
Используя формулу Пифагора, которая говорит, что в прямоугольном треугольнике квадрат длины гипотенузы равен сумме квадратов длин катетов, найдем сторону BC. То есть:
c^2 = a^2 + b^2 или в нашем случае AB^2 = AC^2 + BC^2.
Отсюда:
BC^2 = AB^2 - AC^2.
BC = ( AB^2 - AC^2).
Подставим значения сторон в найденную формулу:
BC = ( 5^2 - 4^2) = (25 - 16) = 9 = 3.
Так как знамениты все данные, вычислим ctg B:
ctg B = BC / AC = 3/4.

Ответ: ctg B = 3/4.