Galera, Tempo é tudo... é preciso pensar em como resolver mais rápido uma questão como esta.
Pegando o número da letra e, em binário, de 4 em 4 da direita pra esquerda vc acha o hexa, de 3 em 3 o octal, de 2 em 2 o de base 4 e bate tudo certinho, logo, letra C tá errado.
Veja:
1 111 101 000 = 1 7 5 0 >>>> Isto implica que os dois estão certos pois não existiria 2 questoes erradas...
11 1110 1000 = 3 E 8 >>>> Logo letra a também tá ok
11 11 10 10 00 = 3 3 2 2 0 >>>> Logo, letra D também tá ok.
A única errada é letra C.