Hola
Bienvenido al foro.
Recuerda leer y seguir las
reglas del mismo así como el
tutorial del LaTeX para escribir las fórmulas matemáticas correctamente.
En cuanto a tu pregunta no entiendo del todo a que te refieres con el "Hessiano" orlado.
El criterio para clasificar un punto crítico es:
1) Si el Hessiano es una matriz definida positiva, entonces es un mínimo local.
2) Si el Hessiano es una matriz definida negativa, entonces es un máximo local.
3) Si el Hessiano es una matriz indefinida, entonces es un punto de silla (hay direcciones en las que crece y otras en las que decrece cerca del punto).
4) En otro caso el Hessiano no decide que tipo de punto es.
Para identificar cuando una matriz cumple alguna de esas propiedades hay varios métodos:
A) Criterio de Sylvester:
Llamamos

a la matriz formada por las primeras

filas y columnas del Hessiano.
- Es definida positiva si y sólo si

para todo

.
- Es definida negativa si y sólo si

para todo

.
La condición significa que esos determinantes van cambiando alternativamente de signo, empezando en el negativo.
- Si

desde

y

entonces es indefinida (un punto de silla).
- Si

desde

y

entonces es indefinida (un punto de silla)
Pude ocurrir que sea indefinida y no se den ninguna de las condiciones anteriores, si en un momento dado algún determinante se anula.
B) Diagonalización por congruencia. Se diagonaliza la matriz por congruencia es decir haciendo operaciones elementales fila y exactamente las mismas en columna.
- La matriz es definida positiva si y sólo si todos los términos obtenidos en la diagonal son positivos.
- La matriz es definida negativa si y sólo si todos los términos obtenidos en la diagonal son negativos.
- La matriz es indefinida si y sólo si en los términos obtenidos en la diagonal hay alguno positivo y alguno negativo.
C) Cálculo de autovalores. Se calculan los autovalores de la matriz Hessiana.
- La matriz es definida positiva si y sólo si todos los autovalores son positivos.
- La matriz es definida negativa si y sólo si todos los autovalores son negativos.
- La matriz es indefinida si y sólo si en los autovalores hay alguno positivo y alguno negativo.
Saludos.