SVD

रैखिक मानचित्र, सदिशों और आव्यूहों की ज्यामिति और बीजगणित

एकल मान अपघटन कुछ ऐसा करता जो कोई और गुणनखंडन नहीं: हर आव्यूह, वर्ग या आयताकार, पूर्ण रैंक या नहीं, तीन साफ ज्यामितीय टुकड़ों में।

दाएँ-से-बाएँ पढ़ें, कोई भी रैखिक मानचित्र वही तीन-चरण गति: Vᵀ इनपुट को सही अक्षों में घुमाता, Σ (विकर्ण, अ-ऋणात्मक एकल मान σ₁ ≥ σ₂ ≥ …) हर अक्ष मापता, और U परिणाम को आउटपुट स्थान में घुमाता। इनपुट का एक वृत्त हमेशा एक दीर्घवृत्त में मानचित्र, और एकल मान उस दीर्घवृत्त के अक्षों की लंबाई।

आकृति में, देखें एकक वृत्त एक दीर्घवृत्त बनता जिसके अर्ध-अक्ष ठीक एकल मान।

ML में इसका स्थानSVD मॉडल संपीड़न के पीछे गणित। LoRA एक भार अद्यतन को निम्न-रैंक गुणनफल से सन्निकट, इस तथ्य का फायदा कि उपयोगी अद्यतन कुछ उच्च-σ दिशाओं में। PCA केंद्रित डेटा का SVD। काटा SVD एम्बेडिंग तालिकाएँ और छवियाँ संपीड़ित केवल प्रमुख एकल दिशाएँ रखकर, वही "बड़े σ रखें" चाल हर बार।
▶ SVD
← सममित आव्यूहSVD द्वारा PCA →