تحليل القيم المفردة

هندسة وجبر التحويلات الخطية والمتجهات والمصفوفات

يقوم التحليل الضوئي للقيم المفردة بعمل شيء لا يمكن لأي تجزئة أخرى القيام به: تقسيم كل مصفوفة، سواء كانت مربعة أو مستطيلة، ذات رتبة كاملة أو غيرها، إلى ثلاثة أجزاء هندسية نظيفة.

من اليمين إلى اليسار، أي خريطة خطية هي نفس الحركة الثلاثية: Vᵀ يقوم بدورانΣ المدخلات لتتماشى مع المحاور اليمنى، (قطرية، مع القيم المفردة غير السالبةσ₁ ≥ σ₂ ≥ …) يقلل من كل محور، ويقومU بتدوير النتيجة في فضاء الخرج. دائرة المدخلات دائمًا ما تتحول إلى بيضوي، والقيم المفردة هي أطوال المحاور لذلك البيضوي.

في الشكل، شاهد الدائرة الوحدانية وهي تتغير إلى بيضاوية ذات محورين نصفيين هما بالضبط القيم المفردة.

أين يظهر هذا في تعلّم الآلةيكون التحليل الضوئي للقيم المفردة وراء ضغط النماذج الرياضية. LoRA يقرب تحديث الوزن بمنتج من الرتبة المنخفضة، مستغلًا حقيقة أن التحديث المفيد يعيش في عدد قليل من الاتجاهات العالية σ. PCA هو تحليل القيم المفردة للمعطيات المركزية. SVD المقصورة تحبس جداول الترميز والصور بحفظ فقط الاتجاهات السائدة للقيم المفردة، نفس الحركة "احتفظ بالـ σ الكبيرة" كل مرة.
▶ تحليل القيم المفردة
← المصفوفات المتناظرةتحليل المكونات الرئيسية عبر SVD →