În timpul iconoclasmului, cei doi umblau prin Constantinopol întărindu-i pe creștini în dreapta credință, pentru a nu cădea în erezie. Din acest motiv, împăratul Leon Armeanul (813-820) îi supune la numeroase persecuții și torturi. După Sfântul Grigorie, Cuviosul Ioan devine stareț al mănăstirii Decapole din Constantinopol și se mută la Domnul în anul 820. Este îngropat lângă mormântul duhovnicului său.