Aos 20 anos, Zé Rafael se viu nos gramados do Estádio do Vale para defender a camisa do Novo Hamburgo. Com pouca experiência no profissional, o meio-campista foi emprestado pelo Coritiba ao time do Vale dos Sinos, com o objetivo de ganhar mais experiência. E o empréstimo deu resultado para o jogador e também para o clube.
Sob o comando do técnico Itamar Schülle, a equipe foi eliminada da Copa do Brasil por uma situação extracampo e fez um Gauchão acima da média.
— Estávamos montando uma equipe nova, reformulando o grupo. Ficamos sabendo que o Zé não estava nos planos do Coritiba. Olhamos o material deles e trouxemos. Ele começou a treinar e observei muita qualidade técnica. Ele era novo, mas já tinha muito potencial — alerta Schülle, que confessa que Zé Rafael sempre teve muita qualidade técnica:
— O que sempre me chamou atenção nele era a qualidade técnica, é um jogador muito inteligente, assimilava muito rapidamente o que a gente pedia. Tinha muita vontade de crescer, fico contente de ter feito parte disso, ele foi muito importante também para o Novo Hamburgo na época. Foi uma peça fundamental para a gente.
Apesar do seu destaque no time gaúcho, depois do término do Gauchão, seu contrato com o Novo Hamburgo acabou e Zé Rafael retornou ao Coritiba, mas também não conseguiu espaço. Nos dois anos seguintes, foi emprestado para o Londrina, onde manteve as boas atuações. Sua primeira aparição na Série A do Brasileirão foi em 2017, pelo Bahia, onde atuou também em 2018, como um dos destaques da equipe até chegar ao Palmeiras.
No clube paulista, viveu momentos de altos e baixos, mas conseguiu se firmar com a chegada do técnico Abel Ferreira. Jogando mais recuado, Zé Rafael se tornou um dos principais meio-campistas do Brasil, conquistando, inclusive, a Libertadores de 2020, derrotando o Santos na decisão, e a Copa do Brasil, ganhando do Grêmio. Com 27 anos, o jogador pode, inclusive, se transferir para a Europa caso mantenha o bom futebol.