Este es un ejercicio típico de Discusión de Sistemas de Ecuaciones. Bueno, quizás no es tan típico porque el sistema es homogéneo (términos independientes igualados a cero) y ya sabes que este tipo de sistemas tienen peculiaridades que tienes que tener en cuenta.
Enunciado del ejercicio DSE06
Solución del Ejercicio DSE06 – Método de Rouché