Выделение полного квадрата
Выделим полный квадрат из квадратного трёхчлена
$$5 x^{2} + \left(- 8 x + \left(\left(- 2 x + \left(x^{2} - 11 x\right)\right) + 22\right)\right)$$
Для этого воспользуемся формулой
$$a x^{2} + b x + c = a \left(m + x\right)^{2} + n$$
где
$$m = \frac{b}{2 a}$$
$$n = \frac{4 a c - b^{2}}{4 a}$$
В нашем случае
$$a = 6$$
$$b = -21$$
$$c = 22$$
Тогда
$$m = - \frac{7}{4}$$
$$n = \frac{29}{8}$$
Итак,
$$6 \left(x - \frac{7}{4}\right)^{2} + \frac{29}{8}$$