A primeira sede do Tribunal de Justiça, em 1874, localizava-se na Rua Boa Vista, 20, época em que era denominado “Tribunal da Relação de São Paulo e Paraná”. Contava com apenas sete desembargadores e era presidido pelo cearense Tristão de Alencar Araripe.

Com a promulgação da Constituição, em 1891, surgiu o “Tribunal de Justiça do Estado de São Paulo”.

Em razão do crescimento demográfico e da expansão do judiciário paulista, fez-se necessária a construção de uma sede para abrigar o Tribunal de Justiça, até então instalado em casarões precários no centro de São Paulo.

O arquiteto Ramos de Azevedo foi incumbido do projeto, mas devido a problemas burocráticos e à demolição do quartel da cavalaria instalado no local, somente em 1920 foi lançada a pedra fundamental deste marco arquitetônico da Cidade.

A maioria dos operários empregados na construção do prédio eram imigrantes italianos e espanhóis. A presença de grandes espaços tornou a obra pioneira no uso de estruturas metálicas. Sua fachada foi inspirada no Palácio da Justiça de Roma, com acabamentos luxuosos e ornamentado com figuras, cariátides e símbolos do judiciário.

Após 13 anos, em janeiro de 1933, começaram as atividades no Palácio da Justiça; uma segunda inauguração ocorreu em 25 de janeiro de 1942, em homenagem à cidade de São Paulo pelo seu 388º aniversário.

O Palácio da Justiça, considerado monumento histórico de valor arquitetônico e interesse cultural, foi tombado pelo CONDEPHAAT em dezembro de 1981.