O Colégio Anchieta já formou muitas gerações de gaúchos. Inicialmente denominado de Colégio dos Padres, foi fundado em 13 de janeiro de 1890 pelos jesuítas da Companhia de Jesus. A primeira sede ficava na Rua Duque de Caxias, no centro de Porto Alegre.
O padre Francisco Trappe, primeiro diretor, obteve autorização de Roma para comprar a casa da família Fialho, perto da Catedral. A residência precisou de adaptações para virar uma escola. No início, a instituição era dividida em duas seções: a alemã e a brasileira, em função do idioma.
O colégio iniciou atividades com turma de 42 meninos, encerrando o primeiro ano letivo com 80 alunos. Eles tinham entre nove e 10 anos. Só eram admitidos se soubessem ler.
Em 1897, o nome mudou para Colégio São José. A pedagogia humanista e humanizadora era uma característica do currículo da instituição desde o princípio.
O nome Colégio Anchieta foi adotado em 1901, por sugestão do padre Conrado Menz. Ele queria homenagear o padre José de Anchieta, jesuíta fundador de São Paulo, canonizado pelo papa Francisco em 2014.
Mesmo com obras de ampliação do prédio nas primeiras décadas do século 20, o espaço na Rua Duque de Caxias ficou pequeno para a escola, que já somavam 1,3 mil alunos nos anos 1950. Um grande terreno foi adquirido em 1954 na Avenida Nilo Peçanha, uma região ainda pouco habitada. A obra começou três anos depois, sob o comando do padre Henrique Pauquet.
A escola encerrou em junho de 1965 as aulas no centro de Porto Alegre, completando a transferência para a nova sede. O amplo terreno permitiu a expansão. Naquele ano, foram abertas matrículas para meninas no curso primário.
O Colégio Anchieta chega aos 135 anos com mais de 3 mil alunos e aproximadamente 450 funcionários, incluindo professores.