No jardim podemos encontrar obras de arte que merecem destaque, tais como o Coreto Art-Noveau construído em ferro fundido em 1916, esculturas de D. André Arcoverde (primeiro Bispo de Valença), Dr. Humberto Pentagna e o Monumento à Inteligência de autoria do escultor Mandarino, construído pela Academia Valenciana de Letras em comemoração ao seu Jubileu, em 1974. Em torno da praça encontram-se alguns prédios de interesse histórico. O Palacete do Visconde do Rio Preto é um deles. Construído em 1858, para servir de residência ao visconde foi durante o século XIX a mais luxuosa residência da cidade. Sua fachada ostenta a imponência do mais puro neoclássico oitocentista. Os monumentais portões, as janelas de cantaria e o frontão com o brasão do Visconde confirmam a riqueza do edifício, que durante anos teve inúmeras finalidades.
O palacete permaneceu com a família Rio Preto até 1894. Outro morador ilustre do palacete foi o Comendador Antônio Jannuzzi, construtor italiano responsável por inúmeros projetos na então capital federal do Rio de Janeiro, no princípio do século XX. Atualmente o prédio é ocupado pelo Colégio Estadual Theodorico Fonseca.
No canto esquerdo do palacete está o prédio que foi ocupado pela Padaria Pentagna desde 1912 até de fins de 2006 era a mais antiga padaria da cidade. Na esquina ao lado, no início da descida da Rua dos Mineiros, está a casa de número 38, construída em meados do século XIX pelo francês Jean Batiste Amidée Berger, para servir de residência e comércio. Apesar de ter sido mutilada 50% da construção original, sua fachada voltada para a Praça Visconde do Rio Preto ainda mantém preservada a mansarda parte característica de construções daquele século. Mais adiante, no início da ladeira que desce do jardim, está a Igreja de Nossa Senhora do Rosário dos Homens Pretos. Do outro lado da praça, na esquina que desce para a Rua Dr. Figueiredo, está a Casa do Bispo. Construída na segunda metade do século XIX, é uma típica construção urbana neoclássica, embora tenha sofrido duas grandes reformas nas suas fachadas. A casa serve de sede do bispado, desde 1925, quando foi criada a Diocese de Valença.
Em um outro lado da praça está o Cine Glória. O atual prédio do cinema substitui o antigo Teatro Glória, construído em 1868. Foi neste local, por volta de 1908, que Valença assistiu pela primeira vez a projeção de um filme, exibido pelo português Mathias Serra, com seu aparelho movido a gás acetileno. Por volta de 1911, passa a ser denominado “Cine Pathé”. Tempos depois passa a ter sessões diárias com a nova denominação de “Cine Roma”. Em 1936 o cinema passa a fazer parte do circuito “Glória” da firma “F. Cupelo & Cia. Ltda”, inaugurando em Valença o novo prédio, denominado “Cine-Teatro Glória”, um dos maiores e mais confortáveis do interior fluminense, com capacidade para 1800 pessoas. Em fins de setembro de 2008 o cinema encerrou definitivamente suas atividades na cidade.
.