Какими способами можно обучить линейную регрессию?
Classic MLУровень: ПрактикаLinear regression
Какими способами можно обучить линейную регрессию?
Подсказки
- Запишите модель через матрицу признаков, параметры и остаток.
- Разделите условия вычисления оценки и условия статистических выводов о ней.
Ответ
Нужно подобрать коэффициенты β, минимизирующие сумму квадратов ошибок. При обратимости XᵀX решение имеет вид β = (XᵀX)⁻¹Xᵀy. Явное обращение матрицы может быть дорогим и численно неустойчивым, поэтому используют QR-разложение или SVD и псевдообратную матрицу. Альтернатива — итеративная оптимизация градиентным спуском.
Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros