RS512 は RSA (RSASSA-PKCS1-v1_5) 系統のJWT署名アルゴリズムです。以下で鍵の種類・ハッシュと、本ツールでの検証対応を確認してください。
RS256/384/512 はRSA秘密鍵で署名し公開鍵で検証する非対称方式です。検証者は秘密を知らなくても公開鍵だけで署名を確認でき、OIDC などで標準的に使われます。