Устраняем неопределенность с помощью второго замечательного предела.
[m]lim_{x → ∞ }(\frac{x^2-x-8+11}{x^2-x-8})^{3x^2-1}=lim_{x → ∞ }((1+\frac{11}{x^2-x-8})^{x^2-x-8}){\frac{3x^2-1}{x^2-x-8}}=[/m]
[m]=e^{lim_{x → ∞} \frac{3x^2-1}{x^2-x-8} }=e^{3}[/m]