هندسة وجبر التحويلات الخطية والمتجهات والمصفوفات
عندما لا يوجد حل دقيق لـ Ax = b (الحالة العادية مع وجود بيانات أكثر من المعالم)، تقوم بالشيء الأفضل: ابحث عن x الذي يجعل Ax قريبًا قدر الإمكانمن b. "قريب" يعني أصغر خطأ مربع. هذا هومربعات أصغر, الطريقة الأساسية لانحدار العادي.
الهندسة هي القصة كلها. النواتج المتاحة Ax تشكل فضاء العمود من A, مستويًا يقع داخل مساحة ذات بعد أعلى. الهدف b عادة ما يكون يطفو خارج ذلك المستوى. النقطة القريبة هي التصوير الأفقي لـ b على المستوى: انزل عموديًا من b مباشرة إلى الأسفل، وحيث تقع هو Ax.
في الشكل، اسحب b بعيدًا عن الخط واضبط التصوير (أفضل مطابقة) ليتحرك موازيًا للبقاء تحته مباشرة، مع الخطأ دائمًا عموديًا.