Ce înseamnă delta în algoritmul de coborâre a gradientului?

Ca în imagine:

enter image description here

Ar putea cineva să mă ajute să înțeleg ce anume înseamnă delta în algoritmul de coborâre a gradientului?

2
Da ar trebui. Vă mulțumim pentru informații.
adăugat autor Cadilac, sursa
Ar trebui să vă reîmprospătați elementele de bază ale calculului multivariat înainte de a încerca să înțelegeți algoritmul gradient decent, deoarece acesta (derivatul parțial) este un operator foarte fundamental.
adăugat autor Christian Rau, sursa
Dacă intuiția mea este corectă, faceți un pas mic în direcția decalajului. Gradientul este un vector, format din toate derivatele parțiale, și puncte în direcția în care funcția crește cel mai ... fel de ...
adăugat autor Per Alexandersson, sursa

2 răspunsuri

Acesta este un derivat parțial față de theta_0.

4
adăugat
Multumesc pentru aceasta. Voi lua aceste informații și voi începe calcularea matematică.
adăugat autor Cadilac, sursa

Termenul este un derivat în ceea ce privește theta 0 .

  • Marcați theta </​​code> ca coordonată pe axa X (permiteți-i să fie A)
  • găsiți coordonatele corespunzătoare pe axa Y (permiteți-i să fie B), astfel încât punctul aparține funcției J
  • Desenați linia tangentă la acea funcție în punctul (A, B)
  • Derivatul este panta acestei linii tangente.

enter image description here

Derivatul este utilizat pentru a controla două aspecte ale funcției de cost (minimalizarea funcției J):

  • direcția - semnul pantei vă indică în ce direcție trebuie să vă deplasați de-a lungul axei X pentru a converti J
  • rata - magnitudinea pantei vă spune cât de repede trebuie să vă mutați
2
adăugat
"a tetei", sau "cu privire la theta_0"?
adăugat autor EOL, sursa
Vă mulțumim pentru această explicație. Voi încerca să construiesc această cunoaștere în mintea mea.
adăugat autor Cadilac, sursa
@EOL bun punct, am corectat formularea. Mulțumiri!
adăugat autor mloskot, sursa