Nato nella regione spagnola della Castiglia, all'età di 14 anni Giovanni fu mandato all'Università di Salamanca per studiare legge. In seguito si trasferì ad Alcala, dove studiò filosofia e teologia prima di essere ordinato sacerdote diocesano.
Dopo la morte dei genitori, che lo lasciarono unico erede di una considerevole fortuna, Giovanni distribuì il suo denaro ai poveri. Nel 1527 si recò a Siviglia, nella speranza di diventare missionario in Messico. L'arcivescovo di quella città lo convinse a rimanere per diffondere la fede in Andalusia (Spagna sud-occidentale). Durante i nove anni di lavoro lì, si fece una reputazione di predicatore coinvolgente, di perspicace direttore spirituale e di saggio confessore.
In seguito lavorò a Cordoba e poi a Granada, dove organizzò l'Università di Baeza, il primo dei numerosi collegi gestiti da sacerdoti diocesani che si dedicavano all'insegnamento e alla direzione spirituale dei giovani.
Fu amico dei santi Francesco Borgia, Ignazio di Loyola, Giovanni di Dio, Giovanni della Croce, Pietro d'Alcantara e Teresa d'Avila.
È stato beatificato nel 1894, canonizzato nel 1970 e dichiarato dottore della Chiesa il 7 ottobre 2012.