Eksponensial & Logaritma

Kalkulus satu variabel dari prinsip pertama

Dua fungsi menjalankan banyak hal dalam machine learning: eksponensial eˣ dan inversnya, logaritma natural ln(x). Keduanya muncul dalam probabilitas, fungsi loss, pertumbuhan, dan peluruhan. Jika kamu nyaman dengan keduanya sekarang, manfaatnya muncul di mana-mana nanti.

Ciri utama eˣ adalah bahwa laju pertumbuhannya sama dengan nilainya saat ini — semakin besar nilainya, semakin cepat ia naik. Itulah arti sebenarnya dari "pertumbuhan eksponensial": bukan sekadar "cepat," tetapi tumbuh sebanding dengan dirinya sendiri. Bilangan khusus e ≈ 2.718 adalah basis yang membuat sifat ini benar persis.

Logaritma ln(x) cukup membalikkan eˣ: ia menjawab "e dipangkatkan berapa agar menghasilkan x?" Jadi ln(eˣ) = x dan e^{ln x} = x. Karena keduanya invers, grafiknya adalah bayangan cermin terhadap garis y = x — seret titik pada gambar dan lihat pantulannya menelusuri kurva lain.

Di mana ini berlaku dalam MLCross-entropy loss, alat utama dalam klasifikasi, dibangun dari −ln(p), dengan p adalah probabilitas yang diberikan model pada kelas yang benar. Log ada di sana tepat karena aturan perkalian-menjadi-penjumlahan: probabilitas seluruh dataset adalah produk raksasa, dan mengambil ln mengubahnya menjadi jumlah yang dapat didiferensiasikan optimizer suku demi suku. "Log-likelihood" persis trik ini.
▶ Eksponensial & Logaritma
← Garis & PolinomialFungsi Trigonometri →