Разобьем задачу построения функции площади фигуры $ABNM$ на три этапа:

1. $x$ внутри левого треугольника
2. $x$ внутри прямоугольника
3. $x$ внутри правого треугольника

1. $x$ внутри левого треугольника

Когда $x$ находится в пределах основания $AH$, то будем получать прямоугольный треугольник $ANM$, который лежит внутри треугольника $ABH$. Эти два треугольника подобны по двум углам (углу $\angle A$ и прямому углу).

Раз эти треугольники подобны, то отношение их оснований связано коэффициентом подобия:

$$\frac{x}{AH}=k$$

Так как трапеция равнобедренная, то:

$$AH=TD=\frac{a-b}{2}$$

Подставим найденное значение для $AH$ в формулу с коэффициентом подобия:

$$k=\frac{2}{a-b}x$$

С другой стороны, отношение их высот наших треугольников связано тем же коэффициентом:

$$\frac{NM}{h}=k$$

Изолируем $NM$ и воспользуемся найденной формулой для $k$:

$$NM=\frac{2h}{a-b}x$$

Найдем теперь площадь треугольника с основанием $x$:

$$S=\frac{1}{2}\cdot NM\cdot x$$

Подставим значение для $NM$:

$$S=\frac{1}{2}\cdot \frac{2h}{a-b}x\cdot x$$

Получили функцию площади треугольника $AMN$, а заодно и функцию площади фигуры $ABNM$, при $x$ в пределах от $0$ до $\frac{a-b}{2}$:

$$S(x)=\frac{h}{a-b}{x}^2$$

2. $x$ внутри прямоугольника

На этом этапе прямая $NM$ отсекает небольшой прямоугольник внутри прямоугольника $HBCT$. Найдем площадь отсекаемого прямоугольника:

$$S_{HBNM}=h\left(x-\frac{a-b}{2}\right)$$

В формуле выше мы учли тот факт небольшой прямоугольник отсекает не вся величина $x$, а только та его часть, которая начинается от прямой $BH$.

Площадь прямоугольника нашли. Теперь к ней надо добавить полную площадь треугольника $ABH$, который уже полностью «заштрихован»:

$$S=S_{ABH}+S_{HBNM}$$

Получили функцию площади фигуры $ABNM$, при $x$ в пределах от $\frac{a-b}{2}$ до $\frac{a-b}{2}+b$:

$$S(x)=\frac{1}{2}\cdot \frac{(a-b)}{2}\cdot h+h\left(x-\frac{a-b}{2}\right)$$

Приведем к более каноническому виду:

$$S(x)=hx-\frac{h(a-b)}{4}$$

3. $x$ внутри правого треугольника

В этот раз $x$ находится в пределах основания $TD$ и отсекает часть от треугольника $TCD$. Отсекаемая часть не является треугольником, поэтому поступим хитрее.

Сначала найдем площадь правого треугольника целиком:

$$S_{TCD}=\frac{1}{2}\cdot h\cdot \frac{a-b}{2}=\frac{h(a-b)}{4}$$

Теперь найдем площадь прямоугольного треугольника $MND$:

$$S_{MND}=\frac{1}{2}\cdot NM\cdot \underset{MD}{\underbrace{(a-x)}}$$

Для нахождения $NM$ вновь воспользуемся свойствами подобных треугольников $TCD$ и $MND$.

$$\frac{\stackrel{MD}{\overbrace{a-x}}}{\underset{TD}{\underbrace{\left(\frac{a-b}{2}\right)}}}=k=\frac{NM}{h}$$

Находим $NM$:

$$NM=\frac{2h}{a-b}(a-x)$$

Подставляем это значение в формулу площади треугольника $MND$:

$$S_{MND}=\frac{1}{2}\cdot \frac{2h}{a-b}(a-x)\cdot (a-x)$$

$$S_{MND}=\frac{h}{a-b}(a-x{)}^2$$

Теперь мы можем найти площадь заштрихованного сегмента $TCNM$:

$$S_{TCNM}=S_{TCD}-S_{MND}=\frac{h(a-b)}{4}-\frac{h}{a-b}(a-x{)}^2$$

$$S_{TCNM}=\frac{h(a-b)}{4}-\frac{h}{a-b}(a-x{)}^2$$

Но помимо этого заштрихованного сегмента есть еще полностью заштрихованные левый треугольник и центральный прямоугольник.

$$S(x)=S_{ABH}+S_{HBCT}+S_{TCNM}$$

$$S(x)=\frac{h(a-b)}{4}+hb+\frac{h(a-b)}{4}-\frac{h}{a-b}(a-x{)}^2$$

Приведем подобные и получаем функцию площади фигуры $ABNM$, при $x$ в пределах от $\frac{a+b}{2}$ до $a$:

$$S(x)=-\frac{h}{a-b}(a-x{)}^2+hb+\frac{h(a-b)}{2}$$

Функция площади

Объединим все найденные для трех этапов функции площади в одну кусочно-заданную функцию.

$$S(x)=\{\begin{array}{ll}\frac{h}{a-b}{x}^2,& 0\le x<\frac{a-b}{2}\\ hx-\frac{h(a-b)}{4},& \frac{a-b}{2}\le x<\frac{a+b}{2}\\ -\frac{h}{a-b}(a-x{)}^2+hb+\frac{h(a-b)}{2},& \frac{a+b}{2}\le x\le a\end{array}$$

График функции площади

Примем $a=5,b=2$ и $h=2$ (такие значения имеет трапеция из рисунков в этом решении). Подставим эти числа в функцию площади:

$$S(x)=\{\begin{array}{ll}\frac{2}{3}{x}^2,& 0\le x<\frac{3}{2}\\ 2x-\frac{3}{2},& \frac{3}{2}\le x<\frac{7}{2}\\ -\frac{2}{3}{x}^2+\frac{20}{3}x-\frac{29}{3},& \frac{7}{2}\le x\le 5\end{array}$$

Построим теперь график этой функции:

Наглядно видим, что во время первого этапа (синий) площадь растет по параболе. На втором этапе (зеленый) площадь продолжает расти, но уже медленее (прямая), так как увеличивается только длина прямоугольника. Наконец, рост еще сильнее замедляется по перевернутой параболе (третий, красный, этап) до полной остановки.

Стоит отметить, что переходы между этапами гладкие. У графика этой функции на всей области определения нет никаких изломов.