Частичка массы m находится вне однородного шара массы M на растоянии

Ответ на вопрос б) явен: сообразно закону всемирного тяготения, сила взаимодействия между шаром и частичкой равна

Сейчас со вторым заданием. Возможная энергия, в данном случае - это работа совершаемая гравитационными силами, которые притягивают к друг другу шар и частичку.

Загвоздка в том, что сила тяготения меж шарами изменяется с расстоянием, это великолепно видно по формуле, потому обычную формулу для вычисления работы использовать нельзя.

За нулевой уровень возможной энергии можно выбрать что угодно, так как физический смысл имеет только разность возможных энергий. Поэтому можно рассуждать так, допустим, что возможная энергия одинакова нулю где то очень далеко от обоих тел, на бесконечности. Тогда, чтоб оттащить, скажем, частичку от шара на бесконечность, необходимо совершить работу как раз одинаковую возможной энергии их взаимодействия на исходном расстоянии друг от друга со знаком минус.

Вычислим эту работу. Пусть шар неподвижен. Перемещая частичку на очень малый отрезок dr мы можем считать что сила гравитации, действующая на частичку неизменна, и тогда эта сила совершает элементарную работу:

Чтоб отыскать полную работу, необходимо сложить все простые работы на промежутке от r до +oo, то бишь взять определенный интеграл:

Это и есть ответ на вопрос а).

Ну а если мы бы выбрали за нулевой уровень энергии не бесконечность, а какую нибудь иную точку потенциальная энергия была бы равна

, где С - какое то произвольное число, константа.