$$y{\left(x \right)} + \frac{d^{2}}{d x^{2}} y{\left(x \right)} = 4 x \cos{\left(x \right)}$$

Дано уравнение:
$$y{\left(x \right)} + \frac{d^{2}}{d x^{2}} y{\left(x \right)} = 4 x \cos{\left(x \right)}$$
Это дифф. уравнение имеет вид:

y'' + p*y' + q*y = s,

где
$$p = 0$$
$$q = 1$$
$$s = - 4 x \cos{\left(x \right)}$$
Называется линейным неоднородным
дифф. ур-нием 2-го порядка с постоянными коэффициентами.
Решить это ур-ние не представляет особой сложности
Решим сначала соответствующее линейное однородное ур-ние

y'' + p*y' + q*y = 0

Сначала отыскиваем корни характеристического ур-ния
$$q + \left(k^{2} + k p\right) = 0$$
В нашем случае характ. ур-ние будет иметь вид:
$$k^{2} + 1 = 0$$
Подробное решение простого уравнения
- это простое квадратное ур-ние
Корни этого ур-ния:
$$k_{1} = - i$$
$$k_{2} = i$$
Т.к. характ. ур-ние имеет два корня,
и корни имеют чисто мнимый вид, то
решение соотв. дифф. ур-ния имеет вид:
$$y{\left(x \right)} = C_{1} \sin{\left(x \left|{k_{1}}\right| \right)} + C_{2} \cos{\left(x \left|{k_{2}}\right| \right)}$$
$$y{\left(x \right)} = C_{1} \sin{\left(x \right)} + C_{2} \cos{\left(x \right)}$$

Мы нашли решение соотв. однородного ур-ния
Теперь надо решить наше неоднородное уравнение

y'' + p*y' + q*y = s

Используем метод вариации произвольной постоянной
Считаем, что C1 и C2 - это функции от x

И общим решением будет:
$$y{\left(x \right)} = \operatorname{C_{1}}{\left(x \right)} \sin{\left(x \right)} + \operatorname{C_{2}}{\left(x \right)} \cos{\left(x \right)}$$
где C1(x) и C2(x)
согласно методу вариации постоянных найдём из системы:
$$\operatorname{y_{1}}{\left(x \right)} \frac{d}{d x} \operatorname{C_{1}}{\left(x \right)} + \operatorname{y_{2}}{\left(x \right)} \frac{d}{d x} \operatorname{C_{2}}{\left(x \right)} = 0$$
$$\frac{d}{d x} \operatorname{C_{1}}{\left(x \right)} \frac{d}{d x} \operatorname{y_{1}}{\left(x \right)} + \frac{d}{d x} \operatorname{C_{2}}{\left(x \right)} \frac{d}{d x} \operatorname{y_{2}}{\left(x \right)} = f{\left(x \right)}$$
где
y1(x) и y2(x) - линейно независимые частные решения ЛОДУ,
y1(x) = sin(x) (C1=1, C2=0),
y2(x) = cos(x) (C1=0, C2=1).
А свободный член f = - s, или
$$f{\left(x \right)} = 4 x \cos{\left(x \right)}$$
Значит, система примет вид:
$$\sin{\left(x \right)} \frac{d}{d x} \operatorname{C_{1}}{\left(x \right)} + \cos{\left(x \right)} \frac{d}{d x} \operatorname{C_{2}}{\left(x \right)} = 0$$
$$\frac{d}{d x} \operatorname{C_{1}}{\left(x \right)} \frac{d}{d x} \sin{\left(x \right)} + \frac{d}{d x} \operatorname{C_{2}}{\left(x \right)} \frac{d}{d x} \cos{\left(x \right)} = 4 x \cos{\left(x \right)}$$
или
$$\sin{\left(x \right)} \frac{d}{d x} \operatorname{C_{1}}{\left(x \right)} + \cos{\left(x \right)} \frac{d}{d x} \operatorname{C_{2}}{\left(x \right)} = 0$$
$$- \sin{\left(x \right)} \frac{d}{d x} \operatorname{C_{2}}{\left(x \right)} + \cos{\left(x \right)} \frac{d}{d x} \operatorname{C_{1}}{\left(x \right)} = 4 x \cos{\left(x \right)}$$
Решаем эту систему:
$$\frac{d}{d x} \operatorname{C_{1}}{\left(x \right)} = 4 x \cos^{2}{\left(x \right)}$$
$$\frac{d}{d x} \operatorname{C_{2}}{\left(x \right)} = - 2 x \sin{\left(2 x \right)}$$
- это простые дифф. ур-ния, решаем их
$$\operatorname{C_{1}}{\left(x \right)} = C_{3} + \int 4 x \cos^{2}{\left(x \right)}\, dx$$
$$\operatorname{C_{2}}{\left(x \right)} = C_{4} + \int \left(- 2 x \sin{\left(2 x \right)}\right)\, dx$$
или
$$\operatorname{C_{1}}{\left(x \right)} = C_{3} + x^{2} \sin^{2}{\left(x \right)} + x^{2} \cos^{2}{\left(x \right)} + 2 x \sin{\left(x \right)} \cos{\left(x \right)} - \sin^{2}{\left(x \right)}$$
$$\operatorname{C_{2}}{\left(x \right)} = C_{4} + x \cos{\left(2 x \right)} - \frac{\sin{\left(2 x \right)}}{2}$$
Подставляем найденные C1(x) и C2(x) в
$$y{\left(x \right)} = \operatorname{C_{1}}{\left(x \right)} \sin{\left(x \right)} + \operatorname{C_{2}}{\left(x \right)} \cos{\left(x \right)}$$
Получаем окончательный ответ:
$$y{\left(x \right)} = C_{3} \sin{\left(x \right)} + C_{4} \cos{\left(x \right)} + x^{2} \sin^{3}{\left(x \right)} + x^{2} \sin{\left(x \right)} \cos^{2}{\left(x \right)} + 2 x \sin^{2}{\left(x \right)} \cos{\left(x \right)} + x \cos{\left(x \right)} \cos{\left(2 x \right)} - \sin^{3}{\left(x \right)} - \frac{\sin{\left(2 x \right)} \cos{\left(x \right)}}{2}$$
где C3 и C4 есть константы

$$y{\left(x \right)} = \left(C_{1} + x\right) \cos{\left(x \right)} + \left(C_{2} + x^{2}\right) \sin{\left(x \right)}$$