Encuentra una matriz ORTOGONAL tal que

sea diagonal,donde

Hola, Relojito. En primer lugar tienes que calcular el polinomio característico (la matriz es simétrica, así que es diagonalizable).
Después, cuando tengas los subespacios asociados a los autovalores y tal, el objetivo es obtener una matriz de paso que sea ortogonal. Esto quiere decir que los vectores columna de la matriz P tienen que ser ortogonales; los vectores asociados a autovalores distintos lo son, son ortogonales. Mira de momento a ver cómo salen los autovectores.
Saludos.