Successioni

Calcolo a una variabile dai primi principi

Una successione è una lista ordinata e infinita di numeri: un primo termine, un secondo, un terzo e così via per sempre. Scriviamo il termine in posizione n come aₙ, quindi l'intera lista è a₁, a₂, a₃, … Il piccolo pedice n è solo un'etichetta di posizione — termine numero 1, termine numero 2, termine numero 7.

Di solito una successione è accompagnata da una regola che ti dà il termine in qualsiasi posizione. Inserisci una posizione, ottieni un numero. Questo fa sì che una successione sia in realtà una funzione i cui input sono i numeri naturali 1, 2, 3, …

Pensa a un conto di risparmio in cui il saldo viene registrato una volta al mese: la prima lettura, la seconda, la terza, e così via per sempre. Questo elenco ordinato dei saldi mensili è esattamente una successione, con aₙ che indica il saldo nel mese n. Se ogni mese il tuo saldo si avvicina un po' di più a un obiettivo per il quale stai risparmiando, la successione si sta stabilizzando su quell'obiettivo — il suo limite.

Dove si trova nel MLI pesi di una rete neurale durante l'addestramento formano una successione: w₀, w₁, w₂, … — un elemento per ogni passo di ottimizzazione. Quando si dice che l'addestramento "converge", si intende che questa successione di pesi si sta stabilizzando su un limite. Quando si dice che "diverge" (spesso perché il learning rate era troppo alto), ci si riferisce allo scenario dell'esplosione: i termini…
▶ Successioni
← Leggere un graficoSomme Parziali →