Recuperado e pronto a mudar de vida, Inácio decidiu partir. O irmão pediu-lhe que não fizesse isso, porque seria desfazer-se das possibilidades de “triunfar na vida”. Mas Inácio, firme em seus propósitos, abandonou o castelo dos Loyola e pegou a dura estrada dos pobres deste mundo.
Antes de chegar à Terra Santa, viveu um ano e meio como peregrino. Em Aránzazu, fez voto de castidade diante da imagem de Nossa Senhora. Na abadia de Nossa Senhora de Monserrat, após uma noite de oração, fez uma detalhada confissão de todos os pecados da vida passada e despojou-se das armas de cavaleiro. Na véspera da festa da Anunciação, 25 de março de 1522, procurou um pobre e entregou-lhe as roupas de cavaleiro, vestindo-se com uma simples túnica.
A caminho de Barcelona, deteve-se na pequena cidade de Manresa. Pensava demorar apenas alguns dias, mas ficou lá onze meses. Nesse tempo, entregou-se totalmente à vida de oração e de penitência, bem como às obras de caridade com pobres e doentes. Residia no hospital de indigentes, mas, para fazer oração, retirava-se a uma gruta, onde suas anotações começavam a se tornar os Exercícios Espirituais. Não faltaram dificuldades físicas (doenças) e espirituais (tentações, sobretudo de escrúpulos), mas a graça de Deus foi mais forte.
Após essa experiência, Inácio seguiu para Jerusalém. Pretendia ficar para sempre na terra de Jesus, mas as autoridades religiosas locais não o permitiram. Embarcando de volta à Europa, Inácio buscou a vontade de Deus a seu respeito.
Já com 33 anos, o peregrino compreendeu que, para ajudar os outros na vida espiritual, precisava voltar a estudar.