Acredito que essa questão esteja com o gabarito errado.
A única opção (de acordo com os meus cálculos, posso estar errado) para que essa equação tenha todas as soluções ilimitadas é n = 0.
Se n =1 haverão soluções A.cost + Bsent que não são ilimitadas (quando t->oo, as soluções não tendem a infinito).
Fazendo para n> 0 haverão 2 soluções limitadas (pelo menos)
Fazendo n<0 haverá 1 solução limitada => A.e^(-raiz n) que irá para 0 quando x -> oo
A unica solução é n = 0 que irá gerar:
Y(x) = Bx + x²/2 + A onde todas as soluções irão para infinito