4x^4-21x^2-25 <0
x^2=t
[red]t ≥ 0[/red]
4t^2-21t-25<0
D=21^2+4*4*25=841=29^2
t_(1)= -1 или t_(2)=25/4
0 ≤ t < 25/4
x^2< 25/4 ⇒ [b]-5/2 < x <5/2[/b]
Решаем второе неравенство
x^2*(9x+11-20) <0
x^2*(9x-9) <0
x < 1; x ≠ 0
Решение системы: