Сразу стоит прояснить важный частный случай, когда $h=0$:

$$a^{\left[n\right]}=a\cdot a\dots a=a^n$$

Другими словами, при $h=0$ выражение $a^{\left[n\right]}$ является обычным возведением $a$ в степень $n$.

Теперь докажем следующее равенство для всех натуральных $n$:

$$(a+b{)}^{\left[n\right]}=\sum _{m=0}^n{C}_n^m{a}^{\left[n-m\right]}{b}^{\left[m\right]}$$

Докажем по методу математической индукции.

База индукции

Пусть $n=1$.

В левой части равенства получаем:

$$(a+b{)}^{\left[1\right]}=(a+b)-0\cdot h=a+b$$

В правой:

$$\sum _{m=0}^1{C}_1^m{a}^{\left[1-m\right]}{b}^{\left[m\right]}=C_1^0{a}^{\left[1\right]}{b}^{\left[0\right]}+C_1^1{a}^{\left[0\right]}{b}^{\left[1\right]}=a+b,$$

так как $C_1^0=C_1^1=1$ и $a^{\left[0\right]}=b^{\left[0\right]}=1$ (по условию). Итак, база индукции выполняется.

Индукционный переход

Предположим, что равенство выполняется для некоторого натурального $k$:

$$(a+b{)}^{\left[k\right]}=\sum _{m=0}^k{C}_k^m{a}^{\left[k-m\right]}{b}^{\left[m\right]}$$

Докажем, что равенство выполняется и для $k+1$:

$$(a+b{)}^{\left[k+1\right]}=\sum _{m=0}^{k+1}{C}_{k+1}^m=a^{\left[k+1-m\right]}{b}^{\left[m\right]}$$

Рассмотрим левую часть равенства и примем $t=a+b$:

$$t^{\left[k+1\right]}=t(t-h)\dots (t-(k-1)h)(t-kh)$$

Замечаем, что все множители кроме последнего по определению образуют $t^{\left[k\right]}$:

$$t^{\left[k+1\right]}=t^{\left[k\right]}\cdot (t-kh)$$

Возвращаемся от $t$ обратно к $a+b$:

$$(a+b{)}^{\left[k+1\right]}=(a+b{)}^{\left[k\right]}\cdot (a+b-kh)$$

Исходя из предположения индукционного перехода мы можем заменить $(a+b{)}^{\left[k\right]}$ на сумму:

$$(a+b{)}^{\left[k+1\right]}=(a+b-kh)\cdot \sum _{m=0}^k{C}_k^m{a}^{\left[k-m\right]}{b}^{\left[m\right]}$$

Итак, скобка умножается на каждое слагаемое из суммы. Распишем несколько подобных умножений.

Для первого слагаемого ($m=0$):

$$\begin{gathered} (a+b-kh)\cdot \left(C_k^0{a}^{\left[k\right]}{b}^{\left[0\right]}\right)= \\ =(a-kh)\cdot \left(C_k^0{a}^{\left[k\right]}{b}^{\left[0\right]}\right)+b\cdot \left(C_k^0{a}^{\left[k\right]}{b}^{\left[0\right]}\right)= \\ =C_k^0{a}^{\left[k+1\right]}{b}^{\left[0\right]}+C_k^0{a}^{\left[k\right]}{b}^{\left[1\right]} \end{gathered}$$

Для второго слагаемого ($m=1$):

$$\begin{gathered} (a+b-kh)\cdot \left(C_k^1{a}^{\left[k-1\right]}{b}^{\left[1\right]}\right)= \\ =(a-(k-1)h)\cdot \left(C_k^1{a}^{\left[k-1\right]}{b}^{\left[1\right]}\right)+(b-h)\cdot \left(C_k^1{a}^{\left[k-1\right]}{b}^{\left[1\right]}\right)= \\ =C_k^1{a}^{\left[k\right]}{b}^{\left[1\right]}+C_k^1{a}^{\left[k-1\right]}{b}^{\left[2\right]} \end{gathered}$$

Для последнего слагаемого ($m=k$):

$$\begin{gathered} (a+b-kh)\cdot \left(C_k^k{a}^{\left[0\right]}{b}^{\left[k\right]}\right)= \\ =a\cdot \left(C_k^k{a}^{\left[0\right]}{b}^{\left[k\right]}\right)+(b-kh)\cdot \left(C_k^k{a}^{\left[0\right]}{b}^{\left[k\right]}\right)= \\ =C_k^k{a}^{\left[1\right]}{b}^{\left[k\right]}+C_k^k{a}^{\left[0\right]}{b}^{\left[k+1\right]} \end{gathered}$$

То есть, для каждого слагаемого мы раскладываем скобку $(a+b-kh)$ так, чтобы увеличить степень $a$ и степень $b$. Соберем все эти слагаемые вместе:

$$\begin{gathered} (a+b{)}^{\left[k+1\right]}=(a+b-kh)\cdot \sum _{m=0}^k{C}_k^m{a}^{\left[k-m\right]}{b}^{\left[m\right]}= \\ {C}_k^0{a}^{\left[k+1\right]}{b}^{\left[0\right]}+C_k^0{a}^{\left[k\right]}{b}^{\left[1\right]}+C_k^1{a}^{\left[k\right]}{b}^{\left[1\right]}+C_k^1{a}^{\left[k-1\right]}{b}^{\left[2\right]}+\dots + \\ +C_k^k{a}^{\left[1\right]}{b}^{\left[k\right]}+C_k^k{a}^{\left[0\right]}{b}^{\left[k+1\right]}= \\ =C_k^0{a}^{\left[k+1\right]}{b}^{\left[0\right]}+a^{\left[k\right]}{b}^{\left[1\right]}\left(C_k^0+C_k^1\right)+a^{\left[k-1\right]}{b}^{\left[2\right]}\left(C_k^1+C_k^2\right)+ \\ +\dots +C_k^k{a}^{\left[0\right]}{b}^{\left[k+1\right]} \end{gathered}$$

Все слагаемые, кроме первого и последнего, умножаются на скобку с суммой сочетаний. Сумму сочетаний можно схлопнуть с помощью свойства сочетаний:

$$C_k^i+C_k^{i+1}=C_{k+1}^{i+1}$$

С множителями $C_k^0$ первого и $C_k^k$ последнего слагаемых можно проделать следующие преобразования:

$$C_k^0=1=C_{k+1}^0{C}_k^k=1=C_{k+1}^{k+1}$$

Получаем итоговую сумму:

$$\begin{gathered} (a+b{)}^{\left[k+1\right]}=(a+b-kh)\cdot \sum _{m=0}^k{C}_k^m= \\ =C_{k+1}^0{a}^{\left[k+1\right]}{b}^{\left[0\right]}+C_{k+1}^1{a}^{\left[k\right]}{b}^{\left[1\right]}+\dots +C_{k+1}^{k+1}{a}^{\left[0\right]}{b}^{\left[k+1\right]}= \\ =\sum _{m=0}^{k+1}{C}_{k+1}^m{a}^{\left[k+1-m\right]}{b}^{\left[m\right]} \end{gathered}$$

Индукционный переход доказан.

$■$

Итак, мы доказали, что для всех натуральных чисел верна формула:

$$(a+b{)}^{\left[n\right]}=\sum _{m=0}^n{C}_n^m{a}^{\left[n-m\right]}{b}^{\left[m\right]}$$

Вывод формулы бинома Ньютона

В самом начале решения мы установили, что если $h=0$, то $a^{\left[n\right]}=a^n$. Так вот, доказанная формула при $h=0$ принимает вид:

$$(a+b{)}^n=\sum _{m=0}^n{C}_n^m{a}^{n-m}{b}^m$$

А это и есть формула бинома Ньютона.