y' = 3x^2 + 40x + 100
Приравняем ее к нулю и найдем корни
3x^2 + 40x + 100 = 0
x = -10, x = -10/3
Составим промежутки знакопостоянства (на рисунке)
По рисунку видно что наибольшее значение функции будет в точке -10
Находим значение функции в этой точке
y(-10) = -10^3 + 20*(-10)^2 + 100*(-10) + 17 = 17
Ответ: 17