El sistema planteado no tendrá solución si rango de la matriz ampliada es mayor que el rango de la matriz de coefcientes. Consideremos la matriz de coeficientes:

(%i1) A : matrix([ 2, - 1, - k],[ 1, - 1, - 2],[ - 1, 0, 2]) ;
(A) [ 2 1 k 1 1 2 1 0 2 ]

El rango de A debe ser al menos 2, ya que el siguiente menor es distinto de cero

(%i2) determinant( submatrix( 1, A, 3)) ;
(%o2) 1

Para que el rango fuese mayor que dos el determinante tendría que ser 0

(%i3) determinant( A) ;
(%o3) k 4

Luego si k=4

(%i5) Ak : ev( A, k = 4) $
if ( rank( Ak)< rank( addcol( A,[ 0, 1, 4]))) then print( "Sistema incompatible") $
Sistema incompatible

Created with wxMaxima.