Привет, я подбираю модель Лассо, используя разные значения в диапазоне от 2 * 10 ^ -5 до 500 для альфа-параметров, таких как:

alphas=np.linspace(0.00002,500,20) 

Когда я рисую отрицательную среднеквадратичную ошибку и абсолютную ошибку перекрестной проверки, я получаю такой график:

img1

Поэтому ошибка увеличивается по модулю, а затем остается постоянной, а не уменьшается ... почему я получаю этот результат?

Выбираем очень маленькие значения альфы, например:

alphas=np.linspace(0.00001,0.00007,20)

Я получаю этот результат для RMSE:

enter image description here

Вы хоть представляете, почему это работает только при таком маленьком значении альфа? Спасибо

0
Sunny 10 Дек 2020 в 00:48

1 ответ

Лучший ответ

Регрессия лассо направлена ​​на увеличение смещения и уменьшение дисперсии. Увеличивая штрафной член, вы уходите от предиктора с наименьшим смещением (увеличение RMSE). Оценщик с самым низким RMSE не всегда является лучшим из-за возможного переобучения. Найдите компромисс смещения и дисперсии

1
Z Li 9 Дек 2020 в 21:50