Считаем внутренний интеграл
(∫ ^(2)_(x) (y2e^(–xy)/4)dy)=(1/4)∫ ^(2)_(x) y^2*(e^(-x))^(y)dy
по частям два раза
u=y^2; du=2ydy
dv=(e^(-x))^(y)dy; v= ∫ (e^(-x))^(y)dy= (e^(-x))^(y)*ln(e^(-x))=- xe^(-xy)
по формуле ∫ a^(t)dt; a=e^(-x)
получим
(1/4)*y^2* (-xe^(-xy))| ^(y=2)_(y=x) - 2(∫ ^(2)_(x) y (-xe^(–xy)dy=
=-e^(-2x)+(1/4)(x^3)*(e^(-x^2)) + 2x(∫ ^(2)_(x) y (e^(–xy)dy=
еще раз по частям:
u=y; du=dy
dv=(e^(-x))^(y)dy; v= ∫ (e^(-x))^(y)dy= (e^(-x))^(y)*ln(e^(-x))=- xe^(-xy)
получим
-e^(-2x)+(1/4)(x^3)(e^(-x^2)) + 2*(x)*(-xy* e^(-xy))|^2_(x) -
2x∫ ^(2)_(x) y (e^(–xy)dy=
[b]-e^(-2x)+(1/4)x^3(e^(-x^2) - 4x^2*e(-2x) + 2x^3e^(-x^2)[b]
Теперь внешний по переменной x:
∫ (2)_(0) (-e^(-2x)+(1/4)x^3(e^(-x^2) - 4x^2*e(-2x) + 2x^3e^(-x^2))dx =
∫ (2)_(0) (-e^(-2x)+(9/4)x^3(e^(-x^2) - 4x^2*e(-2x) )dx =
первый интеграл табличный, второй по частям два раза
x^3=x^2*x
u=x^2
dv=x^e^(-x^2)dx
в третьем
u=x
dv=xe^(-x^2)dx
по частям один раз