BCD (Binary-coded decimal - decimal codificado em binário)
BCD não é um outro sistema de numeração,como binário, octal, hexadecimal ou decimal
Código BCD converte cada dígito decimal em binário individualmente
BCD precisa de 4 bits para representar um número decimal (9 = 1001)
Fonte: http://www.ifba.edu.br/professores/antoniocarlos/index_arquivos/aula4ads.pdf
Resolvendo a questão:
A questão diz que quer representar com 3 bytes. Cada byte tem 8 bits. O BCD precisa de 4 bits para representar o maior número decimal (9). Logo, podemos representar 1001 1001 (primeiro byte) 1001 1001 (segundo byte) 1001 1001 (terceiro byte) => 999999