Questão mal elaborada!
Para validar o gabarito a pergunta deveria ser qual das alternativas pode ser imagem da respectiva função, ou uma das imagens possíveis.
O Banca maldosa essa CESGRANRIO.
f(0) = 0;
f(1) = 1^3 . e^-1 = 1.e^-1 = 1/e => imagem para x = 1;
f(2)= 2^3.e^-2 = 8.e^-2 = 8/e^2 => imagem para x = 2;
f(3) = 3^3.e^-3 = 27.e^-3 = 27/e^3
O conjunto imagem é representado por todos os valores do eixo y.
1 - Identificar o domínio da função, que são os reais positivos.
2 - Calcular a imagem, quando x = 0. Primeiro valor de y será zero.
3 - Calcular o limite, quando x tender para o infinito. Se x tender para infinito, y = 0.
4 - A hipótese é que todos os valores da imagem sejam zero, ou que a imagem inicie em zero, tenha um máximo ou mínimo, e volte a zero. Como verificar a hipótese?
5 - Calcular a derivada da função e igualar a zero, dessa forma, encontrar a imagem máxima ou mínima.
Já sabemos que o primeiro ponto da imagem é zero, devido ao item 2.
A derivada de f(x) = x^3 . e^(-x) é d/dx = 3e^(-x) . x^2 . e^(-x) . x^3. É necessário usar a regra do produto, seguido da regra da cadeia. Maiores detalhes no Chiang ou Simon & Blume.
Igualando d/dx = 0, temos que x = 3. Substituindo na equação original, o ponto de máximo é 27/e^3
Dessa forma, a imagem varia entre [0, 27/e^3]. Dica: plotem a equação original em algum ambiente online de projeção de equações, como o desmos.com, para ter uma ideia do formato desta curva. Só atentem que ao informar a equação o domínio padrão são todos os reais. Assim, ou especifique somente os positivos ou apenas ignore tudo o que está a esquerda da origem.