Fiz de forma pareceida...
Iquadrado=h^4 / 12
Icirculo = (pi.r^4) / 4
Área quadrado = h^2
Área círculo = pi r^2
Como área quadrado = Área círculo = A
Logo:
Iquadrado = h^2 . h^2 /12 = A.A / 12
Icírculo = (pi.r^2 . r^2) / 4 = A.r^2 / 4
Como saber se algo é maior/menor que outro? Se a razão for menor que 1, logo algo é menor e se a razão for maior que 1, algo é maior. Então:
Iquadrado / Icírculo = (A/4 . A/3) / (Ar^2 / 4) = A/3 / r^2; **** A/4.A/3 = A^2 / 12 e A=h^2=pi r^2;
(pi r^2 / 3) / r^2 = pi/3 --> pi/3 > 1, logo, Iquadrado > Icírculo.
Se eu tiver errado algo, é só falar ;)