Обратим внимание на то, что в формуле последовательности $x_n$ берется квадратный корень из членов последовательностей $x_n$ и $y_n$. По определению квадратного корня это означает, что

$$x_n{y}_n\ge 0$$

Это означает, что $x_n$ и $y_n$ имеют одинаковые знаки: оба положительные, либо оба отрицательные. В частности, это означает, что $a$ и $b$ должны быть одного знака.

Если $a,b\ge 0$, то все члены обеих последовательностей тоже $\ge 0$.

Теперь предположим, что $a,b<0$. Тогда $x_2=\sqrt{ab}>0$ и $y_2=\frac{a+b}{2}<0$, то есть $x_2$ и $y_2$ имеют разные знаки. На этапе вычисления $x_3$ это приводит к противоречию, так как нельзя взять квадратный корень из отрицательного числа:

$$x_3=\sqrt{x_2{y}_2}=\text{?}$$

Поэтому все дальнейшие рассуждения будем проводить для неотрицательных $a$ и $b$:

$$a,b\ge 0$$

Если $a=b$

Если $a=b$, то, по условию, $x_1=y_1$. По формулам сразу видим, что и $x_2=y_2=x_1=y_1$. По методу математической индукции элементарным образом можно доказать, что обе последовательности совпадают и равны одному числу.

$$x_n=y_n=\mu (a,b)$$

Константные последовательности имеют предел, равный их константе, поэтому:

$$\underset{n\to \infty }{\lim }{x}_n=\underset{n\to \infty }{\lim }{y}_n=a=b=\mu (a,b)$$

$■$

Если $a\ne b$

Замечаем, что обозначения последовательностей в условии можно без всяких последствий поменять местами. Поэтому можно без ограничения общности считать, что $a<b$. В противном случае достаточно обозначить $x_n$ за $y_n$ и наоборот. Тогда неравенство будет выполняться.

Найдем $x_2$ и $y_2$:

$$x_2=\sqrt{x_1{y}_1}=\sqrt{ab}>\sqrt{aa}=a$$

$$y_2=\frac{x_1+y_1}{2}=\frac{a+b}{2}<\frac{b+b}{2}=b$$

Среднее арифметическое двух чисел всегда не меньше среднего геометрического:

$$\forall p,q:\frac{p+q}{2}\ge \sqrt{pq}$$

Замечаем, что последовательность $y_n$ является последовательностью средних арифметических, а $x_n$ — последовательностью средних геометрических, поэтому выполняется следующее неравенство:

$$\forall n\in \mathbb{N}:y_n>x_n$$

В частности:

$$y_2>x_2$$

Случай равенства исключается, так как мы рассмотрели его в начале решения.

Объединяя все рассуждения выше, получаем цепное неравенство:

$$a<x_2<y_2<b$$

Проводя аналогичные рассуждения, получим следующее неравенство:

$$a<x_2<x_3<y_3<y_2<b$$

Можем сделать три вывода:

1. Последовательность $x_n$ возрастает и ограничена сверху последовательностью $y_n$, в частности числом $b$
2. Последовательность $y_n$ убывает и ограничена снизу последовательностью $x_n$, в частности числом $a$

По признаку Вейерштрасса (монотонная и ограниченная последовательность сходится) последовательности $x_n$ и $y_n$ сходятся и имеют пределы $X$ и $Y$ соответственно.

Сразу отметим, что последовательности $x_{n+1}$ и $y_{n+1}$ представляют собой последовательности $x_n$ и $y_n$ с отброшенным первым членом, а потому имеют тот же самый предел (см. прото-задачу П.16):

$$\begin{gathered} \underset{n\to \infty }{\lim }{x}_n=\underset{n\to \infty }{\lim }{x}_{n+1}=X \\ \underset{n\to \infty }{\lim }{y}_n=\underset{n\to \infty }{\lim }{y}_{n+1}=Y \end{gathered}$$

Нам нужно доказать последовательности имеют общий предел. Для этого найдем предел их разности:

$$\begin{gathered} \underset{n\to \infty }{\lim }(y_{n+1}-x_{n+1})=Y-X=\underset{n\to \infty }{\lim }\left(\frac{x_n+y_n}{2}\right)-X= \\ =\frac{X+Y}{2}-X=\frac{Y-X}{2} \end{gathered}$$

Получаем следующее равенство:

$$Y-X=\frac{Y-X}{2}$$

$$2(Y-X)=(Y-X)$$

$$Y-X=0$$

$$Y=X$$

Мы доказали, что последовательности $x_n$ и $y_n$ имеют один и тот же предел:

$$\underset{n\to \infty }{\lim }{x}_n=\underset{n\to \infty }{\lim }{y}_n=X=Y=\mu (a,b)$$

$■$