Формула суммы первых $n$ членов арифметической прогрессии:

$$S_n=\frac{n(a_n+a_1)}{2}$$

В числителе у нас сумма первых $n-1$ членов арифметической прогрессии с разностью, равной $1$:

$$1+2+\dots +(n-1)=\frac{n(n-1)}{2}$$

Преобразуем теперь последовательность из условия:

$$\begin{gathered} \frac{1}{n^2}+\frac{2}{n^2}+\dots +\frac{n-1}{n^2}=\frac{1+2+\dots +(n-1)}{n^2}= \\ =\frac{n(n-1)}{2n^2}=\frac{1}{2}\cdot \frac{n-1}{n} \end{gathered}$$

Теперь вычислим предел:

$$\begin{gathered} \underset{n\to \infty }{\lim }\left(\frac{1}{n^2}+\frac{2}{n^2}+\dots +\frac{n-1}{n^2}\right)=\underset{n\to \infty }{\lim }\frac{1}{2}\cdot \frac{n-1}{n}= \\ =\frac{1}{2}\cdot \underset{n\to \infty }{\lim }\frac{n-1}{n}=\frac{1}{2}\cdot 1=\frac{1}{2} \end{gathered}$$

Здесь использован факт того, что $\frac{n-1}{n}\to 1$. Это элементарный предел (см. прото-задачу П.10).