Respecto al primero, las matrices de tu base del núcleo no están en el núcleo. Sus imágenes por f no son nulas. Por ejemplo, la primera componente de la imagen de la primera es

.
La base que das de la imagen no tiene sentido, pues debe estar formada por dos vectores columna de tres coordenadas cada uno. De las cuatro columnas de la matriz que has hallado (que está bien) te has de quedar con dos que sean linealmente independientes, porque el rango de la matriz es 2.
Para hallar el núcleo iguala a cero y expresa a, b, c, d en términos de dos parámetros.
Para el segundo, si te lía que sean polinomios, llama

, de modo que el polinomio

es el vector

, e igualmente puedes llamar

.
Así, la imagen del vector de coordenadas

tiene coordenadas

. En términos de coordenadas, es como si tuvieras la aplicación

de

en

.