A pedidos, vou estar colocando a forma mais completa da resolução do exercício.
Em primeiro lugar, vamos a informação que o exercício nos deu. Um conjunto possui 36 subconjuntos de dois elementos. Subconjunto significa que todos os elementos foram divididos, por isso usamos princípios de análise combinatória.
C(n,2) = 36
N é o número de elementos totais, a primeira incógnita que precisamos achar. Para isso vamos substituir o C(n,2) pela fórmula que usaríamos para achar 36.
n! / 2 . (n - 2)! = 36
Resolvendo e isolando os valores para maior entendimento.
n . (n-1) . (n-2)! / 2 . (n-2)! = 36 ------------- Cortamos (n-2)!
n . (n-1) / 2 = 36 --------- Multiplicamos n-1 por n
n² - n / 2 = 36 ------------ Passamos o 2 que está dividindo, multiplicando
n² - n = 36 * 2 ------------ Multiplicamos normalmente
n² - n = 72 ----------------- Passamos o 72 subtraindo
n² - n - 72 = 0 ------------- Equação do segundo grau.
No final, conseguimos uma equação do segundo grau. Resolvendo.
Δ = 1 - 4 . (-72) ----- -4 e -72, multiplicação de valores negativos, resultado positivo.
Δ = 1 + 288
Δ = 289
Obtendo o valor da incógnita da equação, só relembrando a fórmula.
n = -b +- √Δ / 2a --- Substituindo, sabendo que √289 = 17
n = -(-1) +- 17 / 2
n = 1 +- 17 / 2
n1 = 18 / 2 ---------- n2 = -16 / 2
n1 = 9 ---------- n2 = -8
Como não existem elementos negativos no nosso conjunto, sabemos que n = 9.
Por último, fazemos o que a questão pede. Quantos subconjuntos de três elementos possui esse conjunto?
C(9,3) = 9! / 3! . 6! ------ Fatoramos
C(9,3) = 9 . 8 . 7 . 6! / 3! . 6! ------- Cortamos o 6!
C(9,3) = 9 . 8 . 7 / 3 . 2 . 1 ----- Multiplicando 9 x 8 x 7 obteremos o valor de 504.
C(9,3) = 504 / 6
C(9,3) = 84
Alternativa C, 84 subconjuntos de 3 elementos.