După moartea acestuia, Ioan s-a retras la Tolas, într-o peșteră, unde a dus viață de pustnic vreme de 40 de ani. În 639, el a fost chemat de obștea mănăstirii Sinai pentru a deveni stareț și a acceptat cu greu solicitarea.

După câțiva ani, însă, a lăsat în locul lui pe altcineva și s-a retra în peștera sa, unde s-a nevoit până a trecut la cele veșnice, în anul 649.

Este autorul uneia dintre cele mai importante lucrări teologice ortodoxe, „Scara”, de unde și supranumele său. Aceasta prezintă eforturile de dobândire a desăvărșirii duhovnicești sub forma a 30 de trepe, fiecare dintre acestea constituind un capitol separat.

Lucrarea a cunoscut mai multe traduceri în limba română, dar cea mai frumoasă îi aparține lui Dumitru Stăniloae.

Sfântul Ioan Scărarul este prăznuit pe 30 martie, dar și în a patra duminică a Postului Mare al Paștilor, datorită faptului că postul acesta trebuie să fie un urcuș spre desăvârșire.