Hola
El procedimiento que has seguido es correcto, pero no las cuentas.
La matriz de términos cuadráticos de tu cuádrica es:

Sus autovalores

.
Los correspondientes autovectores:

Normalizados y puestos en columna nos dan la matriz de la transformación:

El determinante es negativo y la traza uno, por tanto se trata de una simetría respecto a a un plano.
Finalmente sustituye en la ecuación. Te será cómodo previamente escribirla como:

Nota que la parte cuadrática ya sabes lo que va a dar al cambiar de referencia, porque hemos elegido la transformación para diagonalizarla.
Saludos.