Clemêncio governou pacificamente a Sé de Ancira durante vinte e cinco anos, e seu exemplo de Fé e piedade trouxe multidões de pagãos a Cristo, além de formar novos sacerdotes e missionários para as terras capadócias. Tudo isso, entretanto, mudou quando o Imperador Diocleciano (284–305) deu início à Grande Perseguição contra os cristãos em 303. Clemêncio foi preso aos quarenta e cinco anos de idade pelos pagãos juntamente com outros clérigos gálatas.

Domiciano, o então eparca da Galácia, tentou persuadir o santo e seus companheiros a adorarem os deuses pagãos com honrarias e poderes, mas São Clemente confessou com firmeza a sua Fé e entregou-se para ser torturado. Os carrascos, então, amarraram-no numa árvore e rasgaram seu corpo com afiadas garras de ferro até que suas entranhas pudessem ser vistas e seu sangue já tivesse irrigado todo o chão. Eles apedrejaram sua boca até que seus ossos quebrassem, quebraram seus membros numa roda de tortura e queimaram seus ferimentos com fogo. Jogado quase sem vida de volta à cela, o próprio Senhor preservou Seu sofredor e curou seu corpo dilacerado.

Vários pagãos, vendo a bravura do santo e a milagrosa cura de suas feridas, passaram a crer em Cristo. Pessoas se reuniam com São Clemente na prisão para receberem orientação, cura e finalmente o Santo Batismo, de modo que a prisão transformou-se como uma igreja. Quando a notícia chegou ao imperador, muitos desses novos cristãos foram condenados à execução. Naquela noite, um anjo apareceu perante São Clemêncio e entregou-lhe os Divinos Mistérios, os quais o arcebispo deu a todos os condenados antes de receberem a coroa do martírio. Dos convertidos martirizados, só dois nomes foram preservados: os santos Flegonte e Eucárpio.

Maximiano, espantado com a incrível resistência de São Clemente, enviou-lhe de volta ao Oriente, para a Nicomédia (noroeste da Turquia) de Diocleciano. No barco, o santo foi acompanhado por seu santo discípulo Agatângelo, que o conhecera ainda pagão na prisão romana e fora catequizado e batizado pelo arcebispo. Ele não havia sido executado com os outros confessores, mas desejava sofrer e morrer por Cristo com São Clemente.

Diocleciano, por sua vez, confiou ambos ao cruel jurista Agripino. Este os jogou às bestas selvagens, mas elas se recusaram a feri-los. Então, ordenou que seus braços fossem atravessados por espetos incandescentes das mãos aos ombros. Por fim, fechou-os dentro de um saco e ordenou que fossem jogados do cume de uma montanha. Após os carrascos lançarem-nos ladeira abaixo, seus anjos vieram ao seu socorro, e Clemente a Agatângelo voltaram à cidade sãos e salvos. Agripino continuaria os tormentos, se não fossem os próprios pagãos que sentiram piedade pelos mártires e começaram a atirar pedras nos torturadores. Tendo sido libertos, os santos curaram dois paralíticos da cidade através da imposição de mãos, batizaram e instruíram as pessoas em multidões.

Presos novamente sob ordens de Diocleciano, Clemente e Agatângelo foram mandados de volta a Ancira, onde o eparca Quirino entregou-os à tortura. Eles, então, foram enviados à cidade de Amásia no Ponto (nordeste da Turquia) do procônsul Domécio, conhecido por sua grande crueldade. Lá, os mártires foram jogados em lima quente. Eles passaram um dia inteiro sendo queimados, e mesmo assim saíram ilesos. Foram esfolados, espancados com barras de ferro, colocados em camas incandescentes e tiveram enxofre despejado sobre seus corpos.