A origem da Procuradoria Geral do Estado remonta à antiga Procuradoria Geral dos Feitos da Fazenda Municipal, que, através da Lei nº. 4710, de 04/04/34, passou a ser chamada de Procuradoria dos Feitos da Fazenda Municipal. A partir de 1938 a Procuradoria dos Feitos da Fazenda Municipal, através do Dec. nº. 6344, de 09/11/38, transformou-se na Procuradoria da Fazenda do Distrito Federal, passando a gerir os negócios públicos do Distrito Federal no que se referia aos assuntos jurídicos.

Com a criação do Estado da Guanabara, em 1960, adveio a Lei nº. 134, de 1961, responsável pela criação da carreira de Procurador do Estado da Guanabara, determinando, desde então, que sua única forma de provimento seria o concurso público. O primeiro concurso público foi realizado em 1963, tendo sido aprovados para comporem os quadros desta Casa valiosos nomes da Cultura Nacional.

O atual prédio da Procuradoria Geral do Estado foi construído no ano de 1887, tendo o terreno para sua construção sido cedido pelo Imperador D. Pedro II ao Barão Nogueira da Gama. Neste terreno situado na Rua Dom Manoel foi construído o edifício matriz da Caixa Econômica Federal.

Devido ao enorme progresso obtido pela Caixa Econômica, o velho casarão da Rua Dom Manuel deixou de ser a sua sede em 1940. Logo após, nas décadas de 40 a 60, foi utilizado pelo Tribunal de Justiça do Estado da Guanabara, para Varas de Acidentes de Trabalho, e Cartório de Registro Civil e Casamentos chamado de Pretórios.

Em 1960, passou o prédio a ser ocupado pela antiga Procuradoria Geral do Estado da Guanabara. No ano de 1975 ocorreu uma radical mudança com a fusão do Estado da Guanabara e do antigo Estado do Rio de Janeiro, formando-se o atual Estado do Rio de Janeiro. Nesta mesma época houve a junção das Procuradoria do Estado da Guanabara e da Procuradoria do Estado do Rio de Janeiro, correspondendo à atual. Com isso, houve a transferência de sua sede em 1979 para o prédio situado na Rua Dom Manoel, nº. 25, onde está até os dias de hoje.