RS512 é um algoritmo de assinatura JWT da família RSA (RSASSA-PKCS1-v1_5). Veja abaixo seu tipo de chave, hash e se esta ferramenta pode verificá-lo.
RS256/384/512 assinam com uma chave privada RSA e verificam com a chave pública (assimétrica). Os verificadores conferem a assinatura só com a chave pública, um padrão em OIDC e similares.