Giovanni Rossi è laureato in educazione fisica presso l’ISEF della Lombardia di Milano e ha iniziato il suo percorso da secondo allenatore e preparatore atletico nelle giovanili della Libertas Volley. Nel 1995 entra a far parte dello staff tecnico del Piacenza Volley come preparatore atletico e dopo qualche anno comincia ricoprire il doppio ruolo di preparatore e secondo allenatore. Nella stagione 2003/2004 Rossi era l’assistente di Velasco e Blengini alla Coprasystel Ventaglio Piacenza che militava in A1.

Nelle tre annate sportive successive Giovanni ha ricoperto sempre il ruolo di secondo allenatore a Piacenza in serie A1 assistendo Angelo Lorenzetti.
Nel 2008-2009 arriva la vittoria dello scudetto grazie a una serie di gare rivincita sull’Itas. Mentre nell’ultimo anno piacentino Giovanni ha potuto alzare al cielo la SuperCoppa Italiana.

Nel biennio 2010/2012, Rossi è stato a Segrate a ricoprire il ruolo di preparatore atletico. Nel 2012/2013 entra a far parte dello staff tecnico della Globo Banca Popolare del Frusinate Sora in qualità di secondo allenatore. L’annata successiva, invece, vola in Russia per completare lo staff tecnico dell’Ural Ufa svolgendo il ruolo di preparatore atletico della squadra russa allenata da Flavio Gulinelli. 

Nella stagione 2014/15 diventa invece il preparatore atletico della Lokomotiv Novosibirsk, l’annata successiva vince il titolo di Campione d’Austria con l’Hypo Tirol di Innsbruck. Nel 2016/17 entra tra le fila del Qatar, per poi tornare in Russia all’Ural Ufa nel biennio 2017/2018 e 2018/2019. Fa il suo ritorno in Superlega, a fianco di coach Roberto Piazza, come preparatore atletico dell’Allianz Powervolley Milano nel 2019.