Errado, trata-se de competência concorrente da União, Estados e do DF a competência para legislar.
Art. 24. Compete à União, aos Estados e ao Distrito Federal legislar concorrentemente sobre:
I - direito tributário, financeiro, penitenciário, econômico e urbanístico;
§ 1º - No âmbito da legislação concorrente, a competência da União limitar-se-á a estabelecer normas gerais.
§ 2º - A competência da União para legislar sobre normas gerais não exclui a competência suplementar dos Estados.
§ 3º - Inexistindo lei federal sobre normas gerais, os Estados exercerão a competência legislativa plena, para atender a suas peculiaridades.
§ 4º - A superveniência de lei federal sobre normas gerais suspende a eficácia da lei estadual, no que lhe for contrário.
Opa! A LRF também é lei complementar. Ela estabelece normas de finanças públicas voltadas para a responsabilidade na gestão fiscal e dá outras providências.
Quem procura estabelecer normas gerais sobre orçamento e balanços é a própria Lei n.º 4.320/1964, citada no início da questão. Por isso que a questão ficou errada!
Só mais uma coisa: hoje a Lei n.º 4.320/1964, de fato, tem status de lei complementar. Essa parte da questão está correta!