x^3+3*(a+b)x^2+(b-a)x+2=(x^2-1)*(x+m)+(2x+3)
x^3+3*(a+b)x^2+(b-a)x+2=x^3-x+mx^2-m+2x+3
^3+3*(a+b)x^2+(b-a)x+2=x^3+mx^2+x+3-m
Два многочлена равны, если равны их степени и коэффициенты при одинаковых степенях переменной:
3*(a+b)=m
(b-a)=1
2=3-m ⇒ [b]m=1[/b]
3(a+b)=1
b-a=1
Решаем систему двух уравнений:
[m]\left\{\begin {matrix}3(a+b)=1\\b-a=1\end {matrix}\right.[/m] ⇒ [m]\left\{\begin {matrix}3(a+a+1)=1\\b=a+1\end {matrix}\right.[/m] ⇒ [m]\left\{\begin {matrix}6a+3=1\\b=a+1\end {matrix}\right.[/m] ⇒ [m]\left\{\begin {matrix}a=-\frac{1}{3}\\b=\frac{2}{3}\end {matrix}\right.[/m]