Dari sudut pandang praktis, L1 cenderung mengecilkan koefisien menjadi nol sedangkan L2 cenderung mengecilkan koefisien secara merata. Oleh karena itu, L1 berguna untuk pemilihan fitur, karena kita dapat menghapus variabel apa pun yang terkait dengan koefisien yang menuju nol. L2, di sisi lain, berguna ketika Anda memiliki fitur collinear/codependent.
Apa gunanya regularisasi Apa itu regularisasi L1 dan L2?
L1 regularisasi memberikan keluaran dalam bobot biner dari 0 hingga 1 untuk fitur model dan diadopsi untuk mengurangi jumlah fitur dalam kumpulan data berdimensi besar. Regularisasi L2 membubarkan istilah kesalahan di semua bobot yang mengarah ke model akhir yang disesuaikan lebih akurat.
Apa perbedaan regularisasi L1 dan L2?
Perbedaan intuitif utama antara regularisasi L1 dan L2 adalah bahwa L1 regularisasi mencoba memperkirakan median data sementara regularisasi L2 mencoba memperkirakan rata-rata data untuk menghindari overfitting. … Nilai tersebut juga akan menjadi median dari distribusi data secara matematis.
Apa yang dimaksud dengan regularisasi L1 dan L2 dalam pembelajaran mendalam?
Regularisasi
L2 juga dikenal sebagai peluruhan bobot karena memaksa bobot meluruh menuju nol (tetapi tidak persis nol). Di L1, kami memiliki: Dalam hal ini, kami menghukum nilai absolut dari bobot. Tidak seperti L2, bobot dapat dikurangi menjadi nol di sini. Oleh karena itu, sangat berguna saat kita mencoba mengompresmodel kita.
Bagaimana cara kerja regularisasi L1 dan L2?
Model regresi yang menggunakan teknik regularisasi L1 disebut Regresi Lasso dan model yang menggunakan L2 disebut Regresi Ridge. Perbedaan utama antara keduanya adalah istilah hukuman. Regresi Ridge menambahkan "besar kuadrat" koefisien sebagai istilah pen alti untuk fungsi kerugian.
