$$- 2 y{\left(x \right)} + \frac{d^{2}}{d x^{2}} y{\left(x \right)} = x^{2} - x$$

Дано уравнение:
$$- 2 y{\left(x \right)} + \frac{d^{2}}{d x^{2}} y{\left(x \right)} = x^{2} - x$$
Это дифф. уравнение имеет вид:

y'' + p*y' + q*y = s,

где
$$p = 0$$
$$q = -2$$
$$s = - x^{2} + x$$
Называется линейным неоднородным
дифф. ур-нием 2-го порядка с постоянными коэффициентами.
Решить это ур-ние не представляет особой сложности
Решим сначала соответствующее линейное однородное ур-ние

y'' + p*y' + q*y = 0

Сначала отыскиваем корни характеристического ур-ния
$$q + \left(k^{2} + k p\right) = 0$$
В нашем случае характ. ур-ние будет иметь вид:
$$k^{2} - 2 = 0$$
Подробное решение простого уравнения
- это простое квадратное ур-ние
Корни этого ур-ния:
$$k_{1} = - \sqrt{2}$$
$$k_{2} = \sqrt{2}$$
Т.к. характ. ур-ние имеет два корня,
и корни не имеют комплексный вид, то
решение соотв. дифф. ур-ния имеет вид:
$$y{\left(x \right)} = C_{1} e^{k_{1} x} + C_{2} e^{k_{2} x}$$
$$y{\left(x \right)} = C_{1} e^{- \sqrt{2} x} + C_{2} e^{\sqrt{2} x}$$

Мы нашли решение соотв. однородного ур-ния
Теперь надо решить наше неоднородное уравнение

y'' + p*y' + q*y = s

Используем метод вариации произвольной постоянной
Считаем, что C1 и C2 - это функции от x

И общим решением будет:
$$y{\left(x \right)} = C_{1}{\left(x \right)} e^{- \sqrt{2} x} + C_{2}{\left(x \right)} e^{\sqrt{2} x}$$
где C1(x) и C2(x)
согласно методу вариации постоянных найдём из системы:
$$y_{1}{\left(x \right)} \frac{d}{d x} C_{1}{\left(x \right)} + y_{2}{\left(x \right)} \frac{d}{d x} C_{2}{\left(x \right)} = 0$$
$$\frac{d}{d x} C_{1}{\left(x \right)} \frac{d}{d x} y_{1}{\left(x \right)} + \frac{d}{d x} C_{2}{\left(x \right)} \frac{d}{d x} y_{2}{\left(x \right)} = f{\left(x \right)}$$
где
y1(x) и y2(x) - линейно независимые частные решения ЛОДУ,
y1(x) = exp(-x*sqrt(2)) (C1=1, C2=0),
y2(x) = exp(x*sqrt(2)) (C1=0, C2=1).
А свободный член f = - s, или
$$f{\left(x \right)} = x^{2} - x$$
Значит, система примет вид:
$$e^{\sqrt{2} x} \frac{d}{d x} C_{2}{\left(x \right)} + e^{- \sqrt{2} x} \frac{d}{d x} C_{1}{\left(x \right)} = 0$$
$$\frac{d}{d x} C_{1}{\left(x \right)} \frac{d}{d x} e^{- \sqrt{2} x} + \frac{d}{d x} C_{2}{\left(x \right)} \frac{d}{d x} e^{\sqrt{2} x} = x^{2} - x$$
или
$$e^{\sqrt{2} x} \frac{d}{d x} C_{2}{\left(x \right)} + e^{- \sqrt{2} x} \frac{d}{d x} C_{1}{\left(x \right)} = 0$$
$$\sqrt{2} e^{\sqrt{2} x} \frac{d}{d x} C_{2}{\left(x \right)} - \sqrt{2} e^{- \sqrt{2} x} \frac{d}{d x} C_{1}{\left(x \right)} = x^{2} - x$$
Решаем эту систему:
$$\frac{d}{d x} C_{1}{\left(x \right)} = - \frac{\sqrt{2} x^{2} e^{\sqrt{2} x}}{4} + \frac{\sqrt{2} x e^{\sqrt{2} x}}{4}$$
$$\frac{d}{d x} C_{2}{\left(x \right)} = \frac{\sqrt{2} x^{2} e^{- \sqrt{2} x}}{4} - \frac{\sqrt{2} x e^{- \sqrt{2} x}}{4}$$
- это простые дифф. ур-ния, решаем их
$$C_{1}{\left(x \right)} = C_{3} + \int \left(- \frac{\sqrt{2} x^{2} e^{\sqrt{2} x}}{4} + \frac{\sqrt{2} x e^{\sqrt{2} x}}{4}\right)\, dx$$
$$C_{2}{\left(x \right)} = C_{4} + \int \left(\frac{\sqrt{2} x^{2} e^{- \sqrt{2} x}}{4} - \frac{\sqrt{2} x e^{- \sqrt{2} x}}{4}\right)\, dx$$
или
$$C_{1}{\left(x \right)} = C_{3} + \frac{\left(- 8 x^{2} + 8 x + 8 \sqrt{2} x - 8 - 4 \sqrt{2}\right) e^{\sqrt{2} x}}{32}$$
$$C_{2}{\left(x \right)} = C_{4} + \frac{\left(- 8 x^{2} - 8 \sqrt{2} x + 8 x - 8 + 4 \sqrt{2}\right) e^{- \sqrt{2} x}}{32}$$
Подставляем найденные C1(x) и C2(x) в
$$y{\left(x \right)} = C_{1}{\left(x \right)} e^{- \sqrt{2} x} + C_{2}{\left(x \right)} e^{\sqrt{2} x}$$
Получаем окончательный ответ:
$$y{\left(x \right)} = C_{3} e^{- \sqrt{2} x} + C_{4} e^{\sqrt{2} x} - \frac{x^{2}}{2} + \frac{x}{2} - \frac{1}{2}$$
где C3 и C4 есть константы

$$y{\left(x \right)} = C_{1} e^{- \sqrt{2} x} + C_{2} e^{\sqrt{2} x} - \frac{x^{2}}{2} + \frac{x}{2} - \frac{1}{2}$$