Karışık Hassasiyet ve Kayıp Ölçekleme

Modellerin gerçekte nasıl öğrendiği: düz gradyan inişinden Adam'a kadar

Karışık hassasiyetli eğitim, hız ve bellek için daha küçük sayı formatları kullanır. Her hesaplamayı tam hassasiyette (standart 32-bit kayan noktada) saklamak yerine birçok işlem, yarı belleği daha az hassasiyet ve — float16 için — daha dar bir temsil edilebilir büyüklük aralığı karşılığında kullanan 16-bit formatlar olan float16 ya da bfloat16 kullanır.

🔒 This is a Pro lesson — the interactive figure, worked examples, quiz and practice open with Pro access.

▶ Karışık Hassasiyet ve Kayıp Ölçekleme
← Değişimli En Küçük KarelerParti Boyutu Ölçekleme →