Cделаем замену в полярных координатах:

$$\begin{gathered} x=\cos \phi \\ y=\sin \phi \end{gathered}$$

Найдем матрицу Якоби (Якобиан):

$$J(r,\phi )=\left[\begin{array}{cc}\frac{\partial x}{\partial r}& \frac{\partial x}{\partial \phi }\\ \frac{\partial y}{\partial r}& \frac{\partial y}{\partial \phi }\end{array}\right]=\left[\begin{array}{cc}\cos \phi & -r\sin \phi \\ \sin \phi & r\cos \phi \end{array}\right]=r$$

Найдем пределы интегрирование:

$$0\le \phi \le 2\pi$$

$$x^2+y^2\le a^2$$

Подставим

$$\begin{gathered} x=cos\phi \\ y=sin\phi \end{gathered}$$

Получим

$$r^{2}co{s}^2\phi +r^{2}si{n}^2\phi \le a^2=r^2\le a^2,r\ge 0,a\ge 0$$

Окончательно получим

$$r\le a$$

Расставим пределы интегрирование:

$$\begin{gathered} \underset{0}{\overset{2\pi }{\int }}d\phi \underset{0}{\overset{a}{\int }}\sqrt{r^2\cos \phi +r^2{\sin }^2\phi }|J|dr= \\ \underset{0}{\overset{2\pi }{\int }}d\phi \underset{0}{\overset{a}{\int }}{r}^{2}dr=\underset{0}{\overset{2\pi }{\int }}d\phi {\frac{x^3}{3}|}_0^a=\underset{0}{\overset{2\pi }{\int }}\frac{a^3}{3}d\phi ={\frac{a^3\phi }{3}|}_0^{2\pi }=\frac{2\pi a^3}{3} \end{gathered}$$