Метод на Гаус

Геометрия и алгебра на линейни приложения, вектори и матрици

Методът на Гаус (Гаусова елиминация) е систематичен алгоритъм за решаване на системата Ax = b — както на ръка, така и компютърно. Идеята: използвайте прости операции по редовете, за да преобразувате системата в стъпаловидна (ешелонна) форма, след което извлечете отговора чрез обратно заместване.

Разрешени са три елементарни операции по редовете и нито една от тях не променя множеството от решения: размяна на два реда, умножаване на ред с число, различно от нула, или прибавяне към един ред на друг ред, умножен с число. Използвате ги, за да нулирате елементи, колона по колона.

Първият ненулев елемент във всеки ред се нарича водещ елемент (pivot). Работете отгоре надолу, като използвате всеки водещ елемент, за да нулирате всичко под него, докато матрицата придобие горно-триъгълен вид. След това направете обратно заместване (back-substitution): последният ред дава директно стойността на една променлива; заместете я в реда над него и продължете нагоре.

Къде се използва това в MLМетодът на Гаус е изчислителният предшественик на LU разлагането — процедурата, която вашата библиотека за линейна алгебра действително извиква, за да решава системи и да намира обратни матрици бързо. В машинното обучение рядко ще го правите на ръка, но той е в основата на решаващите алгоритми (solvers) зад регресията в затворена форма (closed-form), изчисленията на ковариацията и всяка стъпка,…
▶ Метод на Гаус
← Ax = b: ГеометрияРанг, нулево пространство и линейна обвивка на колоните →