Выделение полного квадрата
Выделим полный квадрат из квадратного трёхчлена
$$\left(\left(8 x + \left(4 x^{2} + \left(\left(- x^{2} + 16 x\right) - 64\right)\right)\right) - 3\right) - 6$$
Для этого воспользуемся формулой
$$a x^{2} + b x + c = a \left(m + x\right)^{2} + n$$
где
$$m = \frac{b}{2 a}$$
$$n = \frac{4 a c - b^{2}}{4 a}$$
В нашем случае
$$a = 3$$
$$b = 24$$
$$c = -73$$
Тогда
$$m = 4$$
$$n = -121$$
Итак,
$$3 \left(x + 4\right)^{2} - 121$$