いいえ、故障ではございません。
RTX 30 シリーズと特定のマザーボードとの組み合わせで発生する問題となります。
対策としましては、マザーボードのUEFI内メニューよりCSMを"無効"にして頂く事で
Beep音を止める事が可能です。
但し、MBR環境でOSをインストールしている場合にはCSMを無効にする事で
ブートを行う事が出来なくなりますので、ご注意下さいませ。
Beep音が鳴る場合でも、起動後の通常使用については特に問題はございませんので、
音が気にならない場合にはCSMを有効のまま、ご利用下さいませ。
(画像はASRock X570 Extreme4での設定画面となります)