XDJ-RX2 と rekordbox 接続時、PERFORMANCEモードとEXPORTモードで再生できる楽曲ファイルフォーマットに違いはありますか？

あります。

rekordbox dj（rekordbox が PERFORMANCEモード）の場合、再生できるファイルフォーマットは rekordbox dj の仕様に従うため、FLAC、ALAC、ハイレゾ音源が再生できます。

詳しくはこちらをご覧ください。

rekordbox が EXPORTモードの場合、再生できるファイルフォーマットは XDJ-RX2 の仕様に従うため、FLAC、ALAC、ハイレゾ音源のファイルは再生できません。

詳細はこちらご覧ください。