¿Qué significa exactamente delta en el algoritmo de descenso de gradiente?

Como en la foto:

enter image description here

¿Podría alguien ayudarme a entender qué significa exactamente delta en el algoritmo de pendiente de gradiente?

2
Sí, debería. Gracias por las informaciones.
agregado el autor Cadilac, fuente
Debe actualizar sus conceptos básicos en el cálculo multivariado antes de intentar comprender el algoritmo de gradiente decente, ya que este (la derivada parcial) es un operador muy fundamental.
agregado el autor Christian Rau, fuente
Si mi intuición es correcta, en cierto modo das un pequeño paso en la dirección del gradiente. El gradiente es un vector, que consta de todas las derivadas parciales, y apunta en la dirección en que la función crece más ... una especie de ...
agregado el autor Per Alexandersson, fuente

2 Respuestas

Esta es una derivada parcial con respecto a theta_0.

4
agregado
Gracias por eso. Tomaré esta información y comenzaré a calcular las matemáticas.
agregado el autor Cadilac, fuente

El término es un derivado con respecto al theta 0 .

  • Marque theta como coordenada en el eje X (deje que sea A)
  • Encuentre la coordenada correspondiente en el eje Y (sea B) para que el punto pertenezca a la función J
  • Dibuje una línea tangente a esa función en el punto (A, B)
  • La derivada es la pendiente de esta línea tangente.

enter image description here

El derivado se utiliza para controlar dos aspectos de la minimización de la función de costo (función J):

  • dirección: el signo de la pendiente le indica en qué dirección debe moverse a lo largo del eje X para que converja J
  • velocidad: la magnitud de la pendiente le indica qué tan rápido debe moverse
2
agregado
"de la theta", o "con respeto con theta_0"?
agregado el autor EOL, fuente
Gracias por esa explicación. Intentaré construir en este conocimiento a mi mente.
agregado el autor Cadilac, fuente
@EOL buen punto, he corregido la redacción. ¡Gracias!
agregado el autor mloskot, fuente