Что такое регуляризованная линейная регрессия?
Что такое регуляризованная линейная регрессия?

Видео: Что такое регуляризованная линейная регрессия?

Видео: Что такое регуляризованная линейная регрессия?
Видео: Основы машинного обучения, лекция 5 — линейная регрессия и регуляризация 2024, Декабрь
Anonim

Регуляризация . Это форма регресс , который ограничивает / упорядочивает или сужает оценки коэффициентов до нуля. Другими словами, этот метод препятствует изучению более сложных или гибких модель , чтобы избежать риска переобучения. Простое соотношение для линейная регрессия выглядит вот так.

Соответственно, что такое лямбда в линейной регрессии?

Когда у нас высокая степень линейный полином, который используется для подбора набора точек в линейная регрессия настройки, чтобы предотвратить переоснащение, мы используем регуляризацию и включаем лямбда параметр в функции стоимости. Этот лямбда затем используется для обновления тета-параметров в алгоритме градиентного спуска.

Во-вторых, какова цель регуляризации? Регуляризация это техника, используемая для настройки функция добавив к ошибке дополнительный срок штрафа функция . Дополнительный член контролирует чрезмерно колеблющиеся функция такие, что коэффициенты не принимают экстремальных значений.

Таким образом, зачем нам регуляризовать регрессию?

Цель регуляризация состоит в том, чтобы избежать переобучения, другими словами мы стараются избегать моделей, которые очень хорошо подходят для обучающих данных (данные, используемые для построения модели), но плохо подходят для данных тестирования (данные, используемые для проверки того, насколько хороша модель). Это называется переобучением.

Что означает регуляризация?

В математике, статистике и информатике, особенно в машинном обучении и обратных задачах, регуляризация процесс добавления информации для решения некорректно поставленной проблемы или предотвращения переобучения. Регуляризация применяется к целевым функциям в некорректных задачах оптимизации.

Рекомендуемые: