Envoyé à Constantinople par un roi arien pour plaider la cause de ses coreligionnaires, il revint suspect et mourut en prison.
Élu en 523, il gouverne l'Église romaine dans une Italie tenue par Théodoric, roi ostrogoth et arien, qui a jusque-là laissé les catholiques en paix. L'équilibre se rompt quand l'empereur Justin, à Constantinople, prend des mesures contre les ariens de l'Empire. Théodoric contraint le pape à conduire une ambassade pour les faire lever — un évêque de Rome envoyé plaider la cause de l'arianisme, situation sans précédent. Jean est reçu à Constantinople avec des honneurs extraordinaires, couronne l'empereur et obtient une partie de ce qu'il demandait, mais non le retour des églises confisquées. Théodoric, qui voit surtout un pape trop bien accueilli par un empereur rival, le fait arrêter à son retour à Ravenne. Il y meurt en prison en 526, épuisé. L'Église l'honore comme martyr. Il est fêté le 18 mai.
Représenté en pape emprisonné, ou couronnant l’empereur Justin à Constantinople.