$$10 y{\left(x \right)} - 6 \frac{d}{d x} y{\left(x \right)} + \frac{d^{2}}{d x^{2}} y{\left(x \right)} = 0$$

Дано уравнение:
$$10 y{\left(x \right)} - 6 \frac{d}{d x} y{\left(x \right)} + \frac{d^{2}}{d x^{2}} y{\left(x \right)} = 0$$
Это дифф. уравнение имеет вид:

y'' + p*y' + q*y = 0,

где
$$p = -6$$
$$q = 10$$
Называется линейным однородным
дифф. ур-нием 2-го порядка с постоянными коэффициентами.
Решить это ур-ние не представляет особой сложности
Решим сначала соответствующее линейное однородное ур-ние

y'' + p*y' + q*y = 0

Сначала отыскиваем корни характеристического ур-ния
$$q + \left(k^{2} + k p\right) = 0$$
В нашем случае характ. ур-ние будет иметь вид:
$$k^{2} - 6 k + 10 = 0$$
Подробное решение простого уравнения
- это простое квадратное ур-ние
Корни этого ур-ния:
$$k_{1} = 3 - i$$
$$k_{2} = 3 + i$$
Т.к. характ. ур-ние имеет два корня,
решение соотв. дифф. ур-ния имеет вид:
$$y{\left(x \right)} = C_{1} e^{k_{1} x} + C_{2} e^{k_{2} x}$$
Получаем окончательный ответ:
$$y{\left(x \right)} = C_{1} e^{x \left(3 - i\right)} + C_{2} e^{x \left(3 + i\right)}$$

$$y{\left(x \right)} = \left(C_{1} \sin{\left(x \right)} + C_{2} \cos{\left(x \right)}\right) e^{3 x}$$