Como la aplicación es \(f\begin{bmatrix} a & b \\ c & d\end{bmatrix}=a+(b-c)X+dX^2\), construimos la función:

(%i1) f( m) : = rat([ m[ 1, 1], m[ 1, 2] - m[ 2, 1], m[ 2, 2]]. matrix([ 1],[ X],[ X ^ 2]), X) ;
(%o1) f ( m ) := rat ( [ m 1 , 1 , m 1 , 2 m 2 , 1 , m 2 , 2 ] . [ 1 X X 2 ] , X )

De este modo:

(%i2) f( matrix([ a, b],[ c, d])) ;
(%o2)/R/ d X 2 + ( c + b ) X + a

Cuyas coordenadas en la base canónica de \(\mathbb{R}_2[X]\) es:

(%i3) coor( p) : =[ coeff( p, X, 0), coeff( p, X, 1), coeff( p, X, 2)] $

Así:

(%i4) coor( f( matrix([ a, b],[ c, d]))) ;
(%o4)/R/ [ a , c + b , d ]

Ahora determinamos la matriz asociada la aplicación, utilizando la base canónica de \(\mathcal{M}_2(\mathbb{R})\):

(%i5) Mf : transpose( matrix( coor( f( matrix([ 1, 0],[ 0, 0]))),
       coor( f( matrix([ 0, 1],[ 0, 0]))),
       coor( f( matrix([ 0, 0],[ 1, 0]))),
       coor( f( matrix([ 0, 0],[ 0, 1]))))) ;
(Mf) [ 1 0 0 0 0 1 1 0 0 0 0 1 ]

Recordemos que si tenemos una aplicación lineal \(f:V\to W\), entre dos espacios vectoriales sobre el mismo cuerpo, y consideramos un vector fijo \(\vec{w}\in W\), llamamos conjunto imagen recíproca al conjunto \[f^{-1}(\vec{w})=\{\vec{v}\in V;\,f(\vec{v})=\vec{w}\}\subset V.\]
Por tanto, \(\begin{bmatrix} a & b \\ c & d\end{bmatrix}\in f^{-1}(5+X-X^2)\), si \[f\begin{bmatrix} a & b \\ c & d\end{bmatrix}=5+X-X^2;\] es decir,

(%i6) print( Mf. matrix([ a],[ b],[ c],[ d]), "=", matrix([ 5],[ 1],[ - 1])) $
[ a b c d ] = [ 5 1 1 ]

Sustituimos las tres matrices y verificamos:

(%i9) Mf. matrix([ 5],[ 2],[ 1],[ 1]) ;
Mf. matrix([ 5],[ 3],[ 2],[ - 1]) ;
Mf. matrix([ 2],[ 1],[ 0],[ - 1]) ;
(%o7)/R/ [ 5 1 1 ] (%o8)/R/ [ 5 1 1 ] (%o9)/R/ [ 2 1 1 ]

Created with wxMaxima.