[m]u=\frac{1}{x+5}[/m] ⇒ [m]x=\frac{1-5u}{u}[/m]
тогда
[m]\sqrt{2x^2-12x+9}=\sqrt{2\cdot(\frac{1-5u}{u})^2 -12\cdot(\frac{1-5u}{u})+9}=\frac{\sqrt{119u^2-32u+2}}{u} [/m]
[m]dx=-\frac{1}{u^2}du[/m]
[m]∫ \frac{1}{(x+5)\cdot \sqrt{2x^2-12x+9}}dx=- ∫ \frac{1}{\sqrt{119u^2-32u+2}}du[/m]
см. интегрирование квадратного трехчлена.
Выделяйте полный квадрат